Ask HN: Wie geht man mit Leuten um, die LLMs vertrauen?

Der Hacker News-Thread dreht sich nicht darum, ob KI nützlich ist. Es geht darum, was passiert, wenn Menschen aufhören, LLMs als Werkzeuge zu behandeln und sie als Autoritäten sehen.

Zwei Denkschulen

Die Diskussion teilt sich grob in zwei Lager. Die erste Gruppe argumentiert, dass LLMs nur die neueste Version eines alten Problems sind. Menschen haben schon immer schwachen Quellen vertraut. Die zweite Gruppe ist anderer Meinung und argumentiert, dass LLMs strukturell anders sind — eine saubere, selbstbewusste Zusammenfassung ohne sichtbare Quellenkette.

Warum LLM-Vertrauen sozial kompliziert ist

Jemanden herauszufordern, der sich auf einen Chatbot verlässt, klingt, als wäre man gegen Technologie. Aber zu schweigen hat auch seinen Preis — der Standard dafür, was als akzeptabler Beweis gilt, sinkt unbemerkt.

Praktische Muster aus dem Thread

Herausforderung der Behauptung, nicht der Person. Statt „Du solltest ChatGPT nicht vertrauen" fragen: „Auf welcher Quelle basiert das?"

Provenienz erfragen. Behandeln Sie die Person als Experten und fragen Sie, welches Buch oder welche Studie den Punkt stützt.

Niedrige und hohe Einsätze trennen. Niemand muss eine KI-Zusammenfassung einer Besprechungsagenda prüfen. Aber KI-Output als Basis für eine Einstellungsentscheidung oder rechtliche Argumente verdient Prüfung.

Problem demonstrieren statt predigen. Öffnen Sie einen Chatbot, fordern Sie ihn in einem Thema heraus, das Sie gut kennen, und widersprechen Sie ihm. Beobachten Sie, wie es innerhalb von zwei Nachrichten zustimmt.

Eigenen Maßstab schützen. Zeigen Sie bessere Gewohnheiten durch konsequentes Verhalten.

Das größte Risiko in beruflichen Umgebungen

Das Risiko ist nicht nur Halluzination — es ist unbegründetes Vertrauen. KI-generierte Antworten klingen maßgebend und bewegen sich schneller als die Bereitschaft, sie zu überprüfen.

Was dieser Thread wirklich offenbart

Dies ist ein soziales, kein technisches Problem. Bessere Modelle erzeugen plausibleren Output, was das Problem tatsächlich verschlimmern kann. Die Lösung muss auf der Ebene von Gewohnheiten und Normen stattfinden.