Definition
Phänomen, bei dem ein KI-Modell faktisch falsche oder erfundene Informationen mit überzeugender Sprachsicherheit generiert. Hauptursachen: Trainingsdaten-Lücken, statistische Wortverbindungen ohne Faktenbasis, falsch verstandener Kontext. Gegenmaßnahmen: RAG-Architekturen mit Quellenangabe, Citation-Trainings, menschliche Verifikation. Im Managementsystem-Kontext kritisch — eine Halluzinierte Klausel-Nummer kann zu falscher Audit-Vorbereitung führen.
In der Praxis
Die Halluzination ist der Grund, warum Fach-KI ohne Quellenlage im Managementsystem nichts verloren hat. Das Gefährliche ist nicht der offensichtliche Unsinn — der fällt auf. Gefährlich ist die fast richtige Antwort: die Klauselnummer, die um eine Stelle danebenliegt, die Fundstelle, die plausibel klingt, aber nicht existiert, die Frist, die der alten Rechtslage entstammt. In der Beratung habe ich Audit-Vorbereitungen gesehen, die auf halluzinierten Norm-Kapiteln aufbauten — merkt man erst, wenn der Auditor nachfragt. Drei Gegenmaßnahmen haben sich bewährt, und nur in Kombination wirken sie: Erstens RAG-Architektur mit Quellenangabe — das Modell antwortet aus geprüftem Material und nennt die Fundstelle; eine Antwort ohne Quelle ist eine Meinung. Zweitens Domänen-Disziplin: Je allgemeiner das Werkzeug, desto höher das Halluzinationsrisiko bei Fachfragen. Drittens menschliche Verifikation bei allem mit Konsequenz — das Vier-Augen-Prinzip, das Sie aus jeder Dokumentenfreigabe kennen. Halluzinationen sind kein Bedienfehler, sie sind Systemeigenschaft — also brauchen Sie ein System dagegen.
Verwandte Begriffe
Häufige Fragen zu Halluzination
Woran unterscheide ich eine Halluzination von einer veralteten oder missverstandenen Antwort?
Drei verschiedene Fehlerbilder, drei verschiedene Ursachen. Die Halluzination ist erfundener Inhalt mit überzeugender Darstellung: Das Modell nennt eine Norm-Nummer, einen Paragraphen oder eine Studie, die es nicht gibt — entstanden aus statistischen Sprachmustern ohne Faktenbasis. Veraltetes Wissen ist dagegen real, aber überholt: Das Modell kennt die Rechtslage vor der letzten Änderung — sein Trainingsstand hat einen Stichtag, und alles danach existiert für es nicht. Das Missverständnis schließlich ist ein Kontextfehler: Die Frage wurde anders interpretiert als gemeint, die Antwort ist in sich stimmig, aber am Thema vorbei. Praktisch heißt das: Gegen Halluzination hilft Quellenpflicht, gegen veraltetes Wissen hilft ein aktueller Wissensspeicher per RAG, gegen Missverständnisse hilft präzises Fragen. Wer alle drei als „die KI irrt" abtut, greift zum falschen Gegenmittel.
Wer haftet, wenn eine halluzinierte KI-Auskunft zu einem Compliance-Fehler führt?
Sie — das ist die unbequeme, aber klare Antwort. Die Verantwortung für die Richtigkeit von Norminterpretationen, Recherchen und Dokumentationen liegt beim Unternehmen, nicht beim Werkzeug; „die KI hat das geschrieben" ist vor Auditor, Behörde oder Gericht kein Verteidigungsgrund. Der EU AI Act baut auf derselben Logik: Für Hochrisiko-Systeme verlangt die Verordnung wirksame menschliche Aufsicht, und schon für den einfachen Büro-Einsatz gilt seit dem 02.02.2025 Art. 4 — Betreiber müssen Maßnahmen ergreifen, damit ihr Personal die KI-Kompetenz entwickelt, die Grenzen der eingesetzten Systeme zu kennen, und das schließt das Halluzinationsrisiko ausdrücklich ein. Praktisch heißt das: KI-generierte Inhalte mit rechtlicher oder normativer Konsequenz brauchen eine dokumentierte Prüfung durch eine fachkundige Person. Das ist keine Schikane, sondern dieselbe Freigabelogik, die Sie bei jedem anderen Dokument leben (Verordnung (EU) 2024/1689, Art. 4).
Wie bauen wir den Umgang mit Halluzinationen in unsere Arbeitsabläufe ein?
Vier Regeln, die sich in der Praxis bewährt haben. Erstens Quellenpflicht: Fachliche KI-Antworten werden nur aus Systemen verwendet, die ihre Fundstelle nennen — und die Fundstelle wird angeklickt und gelesen, nicht nur zitiert. Zweitens Risikostaffelung: Interne Entwürfe und Ideensammlungen dürfen ungeprüft bleiben; alles, was das Haus verlässt, in Dokumentation, Audit-Unterlagen oder Kundenkommunikation mündet, geht durch fachliche Verifizierung — das Vier-Augen-Prinzip bei Konsequenz. Drittens Sensibilisierung: Die Anwender müssen das Fehlerbild kennen — flüssig formuliert heißt nicht richtig. Eine einstündige, dokumentierte Unterweisung dazu ist zugleich genau die Maßnahme, die Art. 4 des EU AI Act von Betreibern verlangt. Viertens Werkzeugwahl: Für Fachfragen domänenspezifische Systeme mit gepflegtem Wissensspeicher nutzen statt generischer Chatbots — je näher das System an der geprüften Quelle arbeitet, desto kleiner die Halluzinationsfläche.