Dieser Inhalt wurde automatisch aus dem Ukrainischen übersetzt.
Künstliche Intelligenz kann komplexe physikalische Theorien sicher erklären, beim Programmieren helfen oder den Inhalt eines Buches zusammenfassen. Und in einer Minute kann sie einen Artikel nennen, der nie existiert hat, einem berühmten Menschen ein erfundenes Zitat zuschreiben oder ein nicht existierendes Ereignis „erwähnen“. Dabei kann sie dies so überzeugend tun, dass der Fehler nicht immer leicht zu erkennen ist.
Solche Fälle werden als KI-Halluzinationen bezeichnet. Der Begriff ist etwas umstritten: Künstliche Intelligenz erlebt keine Halluzinationen im menschlichen Sinne. Er bezeichnet Situationen, in denen ein generatives Modell falsche, erfundene oder unbegründete Informationen erstellt und diese so präsentiert, als ob sie wahrhaftig wären.
In den Dokumenten des amerikanischen National Institute of Standards and Technology (NIST) wird beispielsweise der Begriff confabulation — Konfabulation für dieses Phänomen verwendet, während „Halluzination“ als gebräuchlicher Begriff für solche Fehler erwähnt wird.
Was bedeutet „KI-Halluzination“
Eine KI-Halluzination oder AI-Hallucination ist eine Antwort des Modells, die durchaus plausibel erscheinen kann, aber Aussagen enthält, die nicht mit den Fakten, den bereitgestellten Daten oder dem Kontext der Anfrage übereinstimmen.
Zum Beispiel kann KI:
- einen Titel einer wissenschaftlichen Studie erfinden;
- einen nicht existierenden Autor eines Buches nennen;
- ein Ereignis in die Biografie einer Person einfügen, das nie stattgefunden hat;
- eine falsche oder nicht existierende Quelle erstellen;
- den Inhalt eines Dokuments falsch wiedergeben;
- einen bestimmten Ausdruck nicht der richtigen Person zuschreiben;
- selbstbewusst ein falsches Datum oder eine falsche Zahl nennen.
Das Besondere an solchen Fehlern ist, dass das Modell nicht unbedingt Unsicherheit zeigt. Der erfundene Fakt kann ebenso glatt und überzeugend formuliert sein wie der richtige.
Deshalb bleiben Halluzinationen eines der wichtigen Probleme der generativen KI, selbst in modernen Sprachmodellen.
Warum KI überhaupt etwas erfindet
Um die Natur der Halluzinationen zu verstehen, muss man ein wenig verstehen, wie große Sprachmodelle funktionieren.
Während des Basistrainings lernt ein solches Modell, die nächsten Textfragmente — Tokens — basierend auf dem vorherigen Kontext vorherzusagen. Es wählt nicht einfach das „wahrscheinlichste Wort“ aus, sondern bewertet die Wahrscheinlichkeiten möglicher Fortsetzungen. Moderne Systeme werden zusätzlich trainiert, um Anweisungen auszuführen, mit verschiedenen Arten von Anfragen zu arbeiten und in einigen Fällen auch auf Suchanfragen, Datenbanken und andere Werkzeuge zuzugreifen.
Der Grundsatz der Texterzeugung garantiert jedoch nicht die Wahrheit jeder formulierten Aussage. Wie NIST anmerkt, kann statistische Vorhersage sowohl faktisch korrekte und konsistente Ergebnisse als auch falsche oder innerlich widersprüchliche liefern.
Zum Beispiel lernt das Modell gut, wie ein bibliografischer Verweis normalerweise aussieht: Autoren, Titel der Arbeit, Zeitschrift, Jahr, DOI-Nummer. Daher kann es einen Eintrag erstellen, der äußerlich kaum von einem echten zu unterscheiden ist. Aber einen konkreten Artikel mit diesem Titel könnte es nie gegeben haben.
Anders ausgedrückt, das Modell kann die Form einer richtigen Antwort sehr gut reproduzieren, ohne ausreichende Grundlagen für alle Fakten innerhalb dieser zu haben.
Halluzination ist nicht einfach ein Fehler
Die Grenze zwischen den Begriffen ist nicht immer klar, aber „Halluzination“ wird normalerweise nicht für jede falsche Antwort der KI verwendet, sondern für Fälle, in denen das System falsche Informationen ohne ausreichende Grundlage in Fakten oder Eingabedaten generiert.
Wenn das Modell bei einer arithmetischen Operation einen Fehler macht, ist das in erster Linie ein mathematischer Fehler.
Wenn es jedoch sagt:
„Im Jahr 2019 veröffentlichte Professorin Anna Miller eine Studie in der Zeitschrift Nature über…“
und es gibt weder diese Forscherin noch eine solche Veröffentlichung, ist das ein typisches Beispiel für eine Halluzination.
Ein weiterer häufiger Fall tritt auf, wenn mit Dokumenten gearbeitet wird. Im Text gibt es möglicherweise keine Antwort auf die Frage des Benutzers, aber das Modell erstellt anstelle des Satzes „das steht im Dokument nicht“ eine logische und plausible Erklärung aus sich selbst.
Warum Halluzinationen oft wahr erscheinen
Es fällt einem Menschen normalerweise leichter, einen Fehler zu vermuten, wenn der Gesprächspartner zögert, durcheinander gerät oder sich selbst widerspricht. Bei generativer KI funktioniert das nicht immer.
Eine falsche Aussage kann in einem grammatikalisch korrekten Satz erscheinen, von Erklärungen begleitet werden und gut in den restlichen Text passen. Die Form der Antwort vermittelt ein Gefühl von Kompetenz, obwohl die Informationen selbst falsch sein können.
Besonders überzeugend wirken erfundene Zitate, Verweise und wissenschaftliche Quellen. Das Modell kann einen Ausdruck erstellen, der den Ansichten einer bekannten Person entspricht, oder einen Titel einer Studie nennen, der perfekt zum Thema passt. Manchmal vermischen sich reale und erfundene Details in einem Text: die Zeitschrift existiert, das Thema klingt logisch, aber die Autoren oder die spezifische Veröffentlichung tun es nicht.
Solche Fälle sind besonders schwer zu erkennen. In einer großen Antwort kann fast alles richtig sein, und nur ein Datum, ein Zitat oder ein Titel kann erfunden sein.
Wann das Risiko von Halluzinationen größer ist
Das Risiko hängt vom spezifischen Modell, der Anfrage und der Art seiner Arbeitsweise ab, aber besonders vorsichtig sollte man sein, wenn sehr präzise oder wenig bekannte Fakten benötigt werden.
Das können wörtliche Zitate, Seitenzahlen von Büchern, bibliografische Daten, wenig bekannte historische Ereignisse, Dokumentennummern, genaue Statistiken oder Informationen zu einem sehr engen Thema sein. Ein separates Problem ist aktuelle Information: Wenn das System keinen Zugang zu aktuellen Quellen hat, könnte es von kürzlichen Änderungen nichts wissen.
Eine Halluzination kann auch durch die Frage selbst provoziert werden, wenn sie bereits eine falsche Annahme enthält.
Zum Beispiel:
„Warum erhielt Albert Einstein den Nobelpreis für die Relativitätstheorie?“
Die Formulierung der Frage ist inkorrekt. Den Nobelpreis für Physik 1921 erhielt Einstein „für seine Verdienste um die theoretische Physik, insbesondere für die Entdeckung des photoelektrischen Effekts“. Die Relativitätstheorie wird in der offiziellen Begründung des Preises nicht erwähnt.
Wenn das Modell einfach die Annahme des Benutzers als Tatsache akzeptiert, könnte es beginnen, detailliert zu erklären, was es in Wirklichkeit nicht gab.
Kann man Halluzinationen vollständig loswerden
KI-Entwickler versuchen, die Anzahl solcher Fehler zu reduzieren: Modelle werden trainiert, um besser auf Unsicherheiten zu reagieren, mit externen Quellen zu arbeiten und keine Antworten zu geben, wenn nicht genügend Informationen vorliegen.
Ein verbreiteter Ansatz ist RAG, oder Retrieval-Augmented Generation, also Generierung, die durch Informationssuche ergänzt wird. In einem solchen System kann das Sprachmodell bei der Formulierung einer Antwort nicht nur auf das Wissen zurückgreifen, das während des Trainings erworben wurde, sondern auch auf Dokumente, die in einem externen Speicher gefunden wurden. Der Ansatz RAG wurde 2020 von Forschern als Kombination aus der parametrischen Gedächtnis des Sprachmodells und dem Zugang zu externem nicht-parametrischen Gedächtnis beschrieben.
Dennoch macht der Zugang zu Quellen das System nicht fehlerfrei. Das Modell kann das gefundene Material falsch verstehen, eine irrelevante Quelle verwenden, Daten verwechseln oder eine unbegründete Schlussfolgerung ziehen.
Deshalb können Halluzinationen reduziert werden, aber derzeit sollte das Problem nicht als vollständig gelöst betrachtet werden.
Wie man eine mögliche Halluzination erkennt
Die wichtigste Regel ist, den selbstbewussten Ton der KI nicht als Beweis für die Richtigkeit zu betrachten.
Besonders sollte man spezifische Daten, Statistiken, Zitate, Titel von Studien, Verweise und andere Informationen überprüfen, bei denen selbst ein kleiner Fehler den Inhalt der Antwort erheblich verändern kann.
Ein verdächtiges Signal kann auch eine außergewöhnlich präzise Antwort auf eine sehr spezifische Frage sein. Wenn das Modell die Seite eines wenig bekannten Buches, ein wörtliches Zitat oder eine Dokumentennummer nennt, ist es besser, die Primärquelle zu öffnen und sicherzustellen, dass diese Daten tatsächlich existieren.
Man kann die KI bitten, die Quelle zu nennen, aber das garantiert nicht die Zuverlässigkeit: Das Modell kann nicht nur einen Fakt erfinden, sondern auch eine Quelle, die ihn angeblich bestätigt.
Es ist zuverlässiger, ein Dokument, eine wissenschaftliche Veröffentlichung oder eine offizielle Seite direkt zu überprüfen oder ein System zu verwenden, das die Quellen anzeigt, auf denen die Antwort basiert.
Bedeuten Halluzinationen, dass man der KI nicht vertrauen kann
Halluzinationen machen generative KI nicht nutzlos. Sie zeigen vielmehr, warum es wichtig ist, die Grenzen solcher Systeme zu verstehen.
Wenn man Titelvarianten erfinden, Texte strukturieren, Konzepte einfach erklären oder Ideen generieren muss, kann KI die Arbeit erheblich beschleunigen. Eine andere Situation entsteht, wenn ihre Antwort als Quelle für präzise Fakten verwendet wird.
KI sollte eher nicht als fehlerfreie Enzyklopädie, sondern als Werkzeug zur Arbeit mit Informationen betrachtet werden. Sie kann schnell erklären, vergleichen, verallgemeinern und helfen, Zusammenhänge zu finden, aber wichtige Aussagen sollten dennoch überprüft werden.
Deshalb ist der Satz „KI kann Fehler machen“ keine formale Warnung, sondern ein wichtiger Haftungsausschluss. Generative Modelle haben gelernt, äußerst überzeugende Antworten zu erstellen, aber Plausibilität und Zuverlässigkeit sind nicht immer dasselbe.
