KI-Halluzination

Was ist KI-Halluzination?

KI-Halluzination bezeichnet das Phänomen, dass ein [[llm|Sprachmodell]] Aussagen produziert, die sachlich falsch sind — aber selbstsicher und gut formuliert klingen. Das Modell „erfindet” Fakten, und bemerkt dabei nicht, dass es das tut.

Typische Halluzinationen:

• Buchtitel und Zitate aus Werken, die nie existierten
• Gerichtsentscheidungen mit falschen Aktenzeichen und Daten
• Biographische Angaben über reale Personen (falsche Positionen, Jahreszahlen)
• Statistische Zahlen ohne empirische Grundlage
• Produktspezifikationen, die nicht mit der Realität übereinstimmen

Warum halluzinieren Sprachmodelle?

Sprachmodelle lernen, statistisch plausible Textfortsetzungen zu erzeugen — nicht, Fakten zu verifizieren. Sie „kennen” keine Wahrheit; sie kennen Sprachmuster. Wenn das Modell keine gesicherte Antwort gelernt hat, generiert es eine, die sprachlich plausibel klingt.

Faktoren, die Halluzinationen begünstigen:

• Fragen zu Themen, die im Trainingskorpus kaum vorkamen
• Sehr spezifische Details wie Zahlen, Namen oder Daten
• Anweisungen zur Kürze (weniger „Denkraum” für das Modell)
• Fragen außerhalb des Trainingszeitraums des Modells

Risikobereiche für KMU

Die Qualität der Ausgabe hängt stark vom Anwendungsfall ab. Besonders riskant sind Bereiche, in denen falsche Informationen erhebliche Folgen haben:

• Recht: Falsche Paragraphen, erfundene Urteile, unzutreffende Rechtsauslegungen
• Finanzen: Falsche Kennzahlen, Steuerregeln, Förderbedingungen
• Medizin und Gesundheit: Falsche Dosierungen oder Kontraindikationen
• Reputation: Falsche oder verleumderische Angaben über Personen oder Unternehmen

Gegenmaßnahmen

[[rag|RAG]] einsetzen: Das Modell nur auf Basis eigener, geprüfter Dokumente antworten lassen — mit Quellenangabe. Das reduziert Halluzinationen in domänenspezifischen Anwendungen deutlich.

Verification-Schritt einplanen: KI-Ausgaben mit „Ist das korrekt? Wo ist die Quelle?” hinterfragen — sowohl im Prompt als auch durch menschliche Überprüfung.

[[prompt-engineering|Prompt Engineering]]: Die Anweisung „Antworte nur auf Basis der folgenden Dokumente. Wenn du die Antwort nicht kennst, sag das direkt.” reduziert Halluzinationen erheblich.

Modelle mit Web-Zugang nutzen: GPT-4 mit Browsing oder Perplexity können Fakten recherchieren statt erfinden — für zeitkritische Fragen sinnvoll.

Fazit für KMU

KI-Halluzination ist kein Grund, KI nicht einzusetzen — aber ein klarer Grund, KI-Ausgaben nicht blind zu vertrauen. Wer weiß, wo das Risiko liegt, kann es durch Prozesse und Werkzeuge steuern.

Der praktische Umgang mit Halluzinationen ist Teil jedes seriösen KI-Einsatzes. Wer das einplant, kann KI zuverlässig nutzen — wer es ignoriert, bekommt früher oder später Probleme.