Halluzination: Warum KI selbstbewusst lügt

Eine Halluzination ist, wenn eine KI etwas Falsches erfindet – aber so klingt, als wäre es sicher wahr.

Was ist das?

Eine Halluzination ist eine falsche Aussage einer KI, die aber selbstbewusst und überzeugend klingt. Zum Beispiel erfindet die KI ein Buch, ein Gesetz oder eine Funktion in einer Bibliothek, die es gar nicht gibt – und formuliert es so, als wäre es Fakt.

Warum passiert das?

Ein LLM sagt Wort für Wort das wahrscheinlichste nächste Wort voraus (siehe LLM). Es hat kein eingebautes "Wahrheits-Häkchen". Wenn es die echte Antwort nicht kennt, füllt es die Lücke trotzdem mit plausibel klingendem Text – weil "plausibel klingen" genau das ist, worauf es trainiert wurde.

Wann passiert es besonders oft?

Bei sehr spezifischen Fakten (Namen, Zahlen, Zitate)
Bei Fragen zu Dingen nach dem Trainings-Stichtag
Bei Nischenthemen mit wenig Trainingsdaten
Wenn nach nicht-existierenden Dingen gefragt wird ("Nenn mir die Funktion X in Bibliothek Y")

Was hilft dagegen?

Der KI echte Quellen/Dokumente als Kontext geben statt sie raten zu lassen
Wichtige Fakten immer gegenprüfen (besonders Zahlen, Zitate, API-Namen)
Die KI bitten, Unsicherheit zu benennen, statt zu raten