Halluzination KI

Als Halluzination bezeichnet man eine Ausgabe eines KI-Systems, die sprachlich einwandfrei und überzeugend wirkt, inhaltlich aber falsch oder frei erfunden ist. Erfunden werden dabei nicht nur Fakten, sondern auch Quellen, Zitate, Zahlen und Zuständigkeiten.

Der Begriff führt leicht in die Irre, weil er nach Störung klingt. Tatsächlich ist Halluzination kein Defekt, sondern die logische Kehrseite des Verfahrens: Ein Large Language Model erzeugt jeweils die wahrscheinlichste Fortsetzung eines Textes. Wahrscheinlich und wahr sind nicht dasselbe.

Wie Halluzinationen entstehen

Drei Ursachen überlagern sich in der Praxis.

• Lücken im Gelernten. Wo die Trainingsdaten dünn, widersprüchlich oder veraltet waren, füllt das Modell die Lücke mit dem, was plausibel klingt — statt die Lücke zu benennen.
• Der Zwang zur Antwort. Systeme sind darauf ausgerichtet, hilfreich zu wirken. Eine formulierte Auskunft wird häufiger als hilfreich bewertet als ein Eingeständnis von Unkenntnis, und dieses Muster verstärkt sich im Alignment.
• Fehlender Faktenabgleich. Ohne Zugriff auf abrufbare Quellen gibt es keine Instanz, die eine Aussage prüft. Die Formulierung entsteht dann ausschließlich aus dem Modell selbst.

Woran man sie erkennt

Halluzinationen sind schwer zu entdecken, weil sie die Merkmale glaubwürdiger Aussagen tragen: präzise Zahlen, korrekt aufgebaute Quellenangaben, angemessener Fachton. Auffällig werden sie meist erst bei der Prüfung von Details — eine Studie, die es nicht gibt, ein Paragraph, der etwas anderes regelt, ein Zitat, das nie gefallen ist.

Besonders anfällig sind Angaben, die im Netz selten und uneinheitlich vorkommen: Öffnungszeiten kleinerer Unternehmen, Preise, Personalzuständigkeiten, regionale Rechtslagen, Firmenhistorien. Genau dort, wo eine einzige gute Quelle den Unterschied macht.

Was dagegen hilft

Auf Systemseite ist Retrieval Augmented Generation die wirksamste Gegenmaßnahme: Das Modell antwortet nicht aus dem Gedächtnis, sondern auf Grundlage abgerufener Dokumente. Damit verschiebt sich die Fehlerquelle vom Erfinden zum Auswählen — Halluzinationen werden seltener, aber nicht unmöglich, weil auch ein korrekt abgerufenes Dokument falsch zusammengefasst werden kann.

Auf Seiten einer Website ist der Hebel ein anderer, und er wird meist unterschätzt: Ein Modell halluziniert über ein Unternehmen dann, wenn belastbares Material fehlt. Eindeutige, aktuelle und über alle Auftritte hinweg widerspruchsfreie Angaben verringern die Wahrscheinlichkeit falscher Aussagen erheblich — ergänzt durch strukturierte Daten, die zentrale Fakten maschinenlesbar festhalten.

Wer prüfen will, wie über das eigene Unternehmen gesprochen wird, muss es messen statt annehmen: dieselben Fragen wiederholt in mehreren Systemen stellen und die Antworten festhalten. Einmalige Stichproben sagen wenig aus, weil Antworten variieren.

Typische Fehler im Umgang

• Selbstsicherheit als Zuverlässigkeit lesen. Der Tonfall einer Antwort sagt nichts über ihre Richtigkeit. Beide entstehen im selben Verfahren.
• Quellenangaben ungeprüft übernehmen. Auch Literaturangaben können erfunden sein. Prüfbar ist eine Quelle erst, wenn sie geöffnet wurde.
• Falsche Aussagen unwidersprochen lassen. Verbreitet ein System eine falsche Angabe über ein Unternehmen, hilft keine Beschwerde, sondern eine besser auffindbare korrekte Quelle.

Häufige Fragen

Warum erfindet eine KI Quellen?

Weil sie Quellenangaben als Textmuster gelernt hat, nicht als Verweise auf existierende Dokumente. Eine erfundene Angabe erfüllt formal alle Merkmale einer echten — Autor, Titel, Jahr, Fundstelle —, ohne dass dahinter ein Abgleich mit einer Datenbank stattgefunden hätte.

Lassen sich Halluzinationen ganz vermeiden?

Nach derzeitigem Stand nicht. Sie lassen sich durch Quellenanbindung, engere Fragestellungen und Prüfschritte deutlich verringern, sind aber im Verfahren angelegt. Bei geschäftskritischen Angaben bleibt eine menschliche Kontrolle notwendig.

Was tun, wenn ein KI-System Falsches über das eigene Unternehmen sagt?

Die Ursache liegt fast immer in der Quellenlage: veraltete Verzeichniseinträge, widersprüchliche Angaben, fehlende Informationen auf der eigenen Website. Korrigiert wird das nicht im Modell, sondern in den Quellen, aus denen es schöpft.

Halluzinieren Systeme mit Websuche seltener?

In der Regel ja, weil die Antwort auf tatsächlich abgerufenen Seiten beruht. Verlagert wird der Fehler dabei auf die Auswahl und die Zusammenfassung: Eine unpassende Quelle oder eine verkürzte Wiedergabe führt ebenfalls zu falschen Aussagen.