Halluzination (KI-Halluzination)
Eine KI-Halluzination bezeichnet eine plausibel klingende, aber frei erfundene oder sachlich falsche Aussage, die ein Sprachmodell als Tatsache darstellt.
Eine KI-Halluzination bezeichnet das Phänomen, dass ein großes Sprachmodell frei erfundene Behauptungen, falsche Daten oder nicht existierende Quellen ausgibt und diese mit voller Überzeugung als verifizierte Tatsachen präsentiert. Für Nutzer wirkt der erzeugte Text grammatikalisch einwandfrei, hochprofessionell und schlüssig, obwohl der sachliche Kern komplett erdacht ist.
Das Problem betrifft moderne Chatbots und Textgeneratoren aller Art. Wer KI-Werkzeuge für Recherchen, Zusammenfassungen oder geschäftliche Texte einsetzt, muss verstehen, dass diese Systeme keine Wahrheitsmaschinen sind. Sie berechnen lediglich mathematische Wahrscheinlichkeiten für das nächste Wort in einer Sequenz.
Warum Sprachmodelle Fakten erfinden
Um die Ursache von Halluzinationen zu verstehen, hilft ein Blick auf die Funktionsweise von generativer KI. Sprachmodelle greifen nicht wie eine klassische Suchmaschine auf ein strukturiertes, ständig geprüftes Faktenlexikon zu. Stattdessen haben sie während ihres Trainings gigantische Textmengen analysiert und gelernt, welche Wörter in bestimmten Kontexten typischerweise aufeinanderfolgen.
Wenn dem Modell spezifische Informationen fehlen, schlägt die statistische Textergänzung zu. Die KI versucht, die Anweisung des Nutzers um jeden Preis flüssig und erwartungskonform zu beantworten. Wurde das Modell im Trainingsprozess darauf optimiert, stets hilfsbereit zu sein und eine Antwort zu liefern, neigt es eher zum Spekulieren als zum ehrlichen Eingeständnis einer Wissenslücke. Enthält der Prompt des Nutzers bereits eine falsche Annahme, greift die KI diese Annahme oft unkritisch auf und spinnt eine plausible Geschichte darum herum.
Beispiel aus der Praxis: Der Handwerksbetrieb aus Salzburg
Nehmen wir ein typisches Szenario aus dem Arbeitsalltag: Ein Marketingmitarbeiter möchte für eine Broschüre ein Porträt über eine traditionsreiche Tischlerei in Salzburg erstellen. Er füttert den Assistenten mit ein paar Notizen über das Angebot und bittet die KI um einen kurzen Abriss der Firmengeschichte.
Die Antwort liest sich beeindruckend: Die KI nennt das Gründungsjahr 1928, beschreibt den fiktiven Urgroßvater Johann als Gründer und erwähnt sogar eine angebliche Auszeichnung der Salzburger Wirtschaftskammer aus den Siebzigerjahren. Der Text klingt so überzeugend, dass er ohne Prüfung direkt ins Layout wandern könnte. Die Realität: In den Firmenakten taucht kein Johann auf, der Betrieb entstand erst 1984, und die Auszeichnung hat es nie gegeben. Die KI hat die Lücken im Prompt eigenständig mit Elementen gefüllt, die typischerweise in Firmenchroniken österreichischer Handwerksbetriebe vorkommen.
Typische Erscheinungsformen von KI-Halluzinationen
Falsche Angaben treten in ganz unterschiedlichen Schattierungen auf. Häufig ist nur ein einziges Detail in einem ansonsten korrekten Text betroffen:
- Erfundene Quellenangaben: Das Modell zitiert Gerichtsurteile mit amtlich wirkenden Aktenzeichen, nennt wissenschaftliche Studien samt Autoren oder erfindet Paragrafen, die in keinem Gesetzbuch stehen.
- Falsche Zuordnungen: Reale Ereignisse oder Zitate werden bekannten Persönlichkeiten zugeschrieben, die damit nie etwas zu tun hatten.
- Subtile Zahlenfehler: In Finanzberichten oder Projektplänen werden Beträge vertauscht, Einheiten falsch berechnet oder Zeitspannen falsch zusammengefasst.
- Vorgaukeln von Funktionen: Bei Softwarebeschreibungen dichtet die KI Programmen oft Schaltflächen, Schnittstellen oder Befehle an, die in der Realität nicht existieren.
So überprüfen Sie KI-Texte systematisch
Ein geschulter Blick schützt davor, ungeprüfte Falschaussagen in Umlauf zu bringen. Verlassen Sie sich niemals auf das Bauchgefühl, nur weil ein Entwurf fundiert klingt. Mit einem klaren Prüfpfad minimieren Sie das Risiko:
- Aussagen isolieren: Trennen Sie konkrete Fakten wie Jahreszahlen, Namen, Gesetze, Adressen und Zitate von allgemeinen Floskeln.
- Primärquellen heranziehen: Prüfen Sie jeden relevanten Fakt in einer vertrauenswürdigen Quelle, etwa dem Handelsregister, Gesetzestexten oder Originaldokumenten. Ein von der KI mitgelieferter Weblink muss zwingend manuell angeklickt und gegengelesen werden.
- Mathematik nachrechnen: Führen Sie Rechenoperationen stets im Taschenrechner oder in einer Tabellenkalkulation durch. Sprachmodelle beherrschen Arithmetik nur unzuverlässig.
- Widersprüche hinterfragen: Achten Sie darauf, ob die KI aus einer Möglichkeit eine zwingende Tatsache gemacht hat, beispielsweise indem ein geplantes Vorhaben als bereits vollendet beschrieben wird.
Der häufigste Fehler: Die KI selbst befragen
Ein weit verbreiteter Irrtum ist es, den Chatbot nach einer Antwort einfach zu fragen: Bist du dir sicher? Die KI schlägt in diesem Fall nicht magisch die Realität nach. Sie erzeugt lediglich eine weitere Antwort, die den vorherigen Tonfall bestätigt oder scheinheilig eine Entschuldigung formuliert, während sie neue Fehler einbaut. Eine verlässliche Validierung kann immer nur außerhalb des Modells über unabhängige Informationsquellen erfolgen.
Häufig gestellte Fragen
Was versteht man unter einer Halluzination bei künstlicher Intelligenz?
Es handelt sich um eine falsche, unvollständige oder frei erfundene Information, die ein Sprachmodell erzeugt, aber als gesicherte Tatsache darstellt.
Warum erfinden Sprachmodelle Fakten?
KIs arbeiten mit statistischen Wortwahrscheinlichkeiten und haben kein echtes Weltverständnis. Fehlen Daten im Kontext, ergänzt das System den Text so, dass er grammatikalisch und stilistisch logisch weitergeführt wird.
Wie kann man KI-Halluzinationen beim Prompting verringern?
Geben Sie dem Modell feste Quellentexte vor, weisen Sie es an, ausschließlich daraus zu zitieren, und fordern Sie es ausdrücklich dazu auf, 'Ich weiß es nicht' zu schreiben, wenn eine Information fehlt.
Hilft RAG gegen das Halluzinieren von KI?
Ja, Retrieval-Augmented Generation (RAG) verankert die Antworten in externen Dokumenten und senkt die Fehlerrate deutlich, kann Falschinterpretationen oder ungenaue Zitate aber nicht vollständig ausschließen.
