Halluzination
Als Halluzination bezeichnet man im KI-Kontext Ausgaben von Sprachmodellen, die sprachlich korrekt und überzeugend wirken, inhaltlich jedoch falsch, veraltet oder frei erfunden sind. Das Modell generiert plausibel klingende Informationen ohne faktische Grundlage.
Ausführliche Erklärung
KI-Halluzinationen entstehen, weil Large Language Models darauf trainiert sind, statistisch wahrscheinliche Textfortsetzungen zu erzeugen, nicht aber Wahrheit zu verifizieren. Das Modell berechnet, welches Wort mit hoher Wahrscheinlichkeit als nächstes folgt – ohne zu prüfen, ob die erzeugte Aussage tatsächlich korrekt ist. Wenn eine KI auf Wissenslücken in ihren Trainingsdaten stößt, füllt sie diese mit plausibel klingenden, aber erfundenen Inhalten. Typische Beispiele sind nicht existierende Quellenangaben, falsche Finanzdaten oder imaginäre Ereignisse, die mit hohem rhetorischem Selbstvertrauen präsentiert werden.
Für Unternehmen stellt dieses Phänomen ein ernstzunehmendes Risiko dar. Wenn Mitarbeiterinnen und Mitarbeiter KI-generierte Inhalte ungeprüft in Kundenkommunikation, Verträgen oder strategischen Entscheidungen verwenden, können Reputationsschäden, rechtliche Konsequenzen oder Fehlentscheidungen die Folge sein. Besonders problematisch wird es in regulierten Branchen wie Gesundheitswesen, Finanzdienstleistungen oder Rechtsberatung, wo Faktentreue gesetzlich vorgeschrieben ist.
Halluzinationen lassen sich technisch nicht vollständig verhindern – sie sind eine Eigenschaft der zugrundeliegenden Technologie, kein Konfigurationsfehler. Die Zuverlässigkeit variiert je nach Anwendungsfall und Modell erheblich: Während manche Tests Fehlerquoten von unter zwei Prozent zeigen, weisen andere Benchmarks auf Halluzinationsraten von über 30 Prozent hin. Entscheidend ist daher nicht nur die Auswahl geeigneter Modelle, sondern vor allem die Etablierung organisatorischer und technischer Schutzmaßnahmen.
Um das Risiko zu minimieren, haben sich mehrere Ansätze bewährt: Präzises Prompting mit klaren, spezifischen Anweisungen reduziert Mehrdeutigkeiten. Retrieval-Augmented Generation verbindet das KI-Modell mit verlässlichen externen Datenquellen. Das Human-in-the-Loop-Prinzip stellt sicher, dass kritische Ausgaben stets von qualifizierten Personen geprüft werden. Zudem sollten Unternehmen ihre Datenbasis pflegen und veraltet Informationen kennzeichnen oder entfernen, da KI-Systeme auch mit korrekten, aber veralteten Daten arbeiten und dadurch irreführende Ergebnisse liefern können.
Praxisbeispiel
Ein österreichisches Steuerberatungsbüro mit 12 Mitarbeitenden setzt ChatGPT ein, um Mandantenanfragen zu beantworten. Ein Mitarbeiter lässt sich von der KI einen Überblick über aktuelle Abschreibungsregeln generieren. Das Ergebnis klingt präzise und enthält konkrete Prozentsätze – allerdings hat das Modell einige Werte erfunden. Erst bei der Gegenprüfung mit der offiziellen BMF-Dokumentation fällt der Fehler auf. Das Büro führt daraufhin eine Regel ein: KI-Output wird nur als Entwurf betrachtet und muss bei rechtlich relevanten Inhalten stets gegen Primärquellen validiert werden.