Analyse · KI
Warum Sprachmodelle selbstbewusst irren: Halluzination, Konfabulation und die Grenzen des Transformers
Stand: 29. Juni 2026 · Lesezeit ca. 11 Min · Faktenbasierte Einordnung
Das Wichtigste in 30 Sekunden
- Falscher Begriff: KI „lügt" nicht (keine Absicht) und „halluziniert" nicht (keine Sinneswahrnehmung). Treffender ist Konfabulation – das überzeugte Füllen von Wissenslücken mit Erfundenem.
- Die Wurzel: Ein Sprachmodell berechnet das wahrscheinlichste nächste Wort – nicht die Wahrheit. Ein perfekt klingender Satz muss nicht stimmen.
- Der eigentliche Treiber: Gängige Bewertungen belohnen Raten statt „Ich weiß es nicht". Wer beim Raten Punkte bekommt, rät – das zeigt OpenAI-Forschung von 2025.
- Was hilft: saubere Datenanbindung (RAG), Quellenpflicht, Kalibrierung auf ehrliche Unsicherheit, Prozessüberwachung und der Mensch in der Schleife bei kritischen Themen.
- Der Umbruch 2026: weg vom reinen Transformer, hin zu hybriden Modellen mit Zustandsraum-Architekturen (Mamba & Co.).
Fragt man ein Spitzenmodell nach dem Geburtsdatum einer wenig bekannten Person, kann es passieren, dass es drei verschiedene Daten nennt – alle drei falsch, alle drei in makellosem Ton. Genau diese Mischung aus sprachlicher Perfektion und sachlicher Beliebigkeit ist das hartnäckigste Problem der heutigen KI. Und sie hat erstaunlich wenig mit „Lügen" zu tun.
Nicht Lüge, nicht Halluzination: das bessere Wort heißt Konfabulation
Die Branche spricht von „Halluzination", wenn ein Modell überzeugend Falsches ausgibt. Wissenschaftlich ist das schief: Eine Halluzination setzt Sinneswahrnehmung voraus, die ein Algorithmus nicht hat. Und „Lüge" trifft erst recht nicht, weil sie eine bewusste Täuschungsabsicht unterstellt – ein Modell kennt weder Absicht noch Wahrheit.
Aus der Neuropsychologie stammt ein passenderer Begriff: Konfabulation. Er beschreibt Menschen, die Gedächtnislücken unbemerkt mit einer zusammenhängenden, aber frei erfundenen Geschichte füllen. Genau das tut ein Sprachmodell: Fehlt der nötige Kontext, schließt es die Lücke mit statistisch naheliegenden, aber unbelegten Wortfolgen. Das ist mehr als Wortklauberei – wer KI als „lügend" oder „halluzinierend" beschreibt, vermenschlicht sie und übersieht, dass es ein nüchternes, mathematisches Problem ist. Mehr zu dieser Vermenschlichungsfalle in unserem Beitrag über AGI als digitale Lebewesen.
Die Wurzel: Wahrscheinlichkeit schlägt Wahrheit
Der Kern steckt in der Bauweise. Ein Transformer-Modell maximiert die Wahrscheinlichkeit einer Wortabfolge – sein Ziel ist sprachliche Stimmigkeit, nicht Faktentreue. Ein grammatikalisch perfekter, flüssiger Satz kann in der Wirklichkeit völlig falsch sein, ohne dass das Modell einen Unterschied „spürt". Konfabulationen sind deshalb kein mysteriöser Defekt, sondern ein statistisch zu erwartendes Nebenprodukt: Wenn sich Wahres und Falsches im Trainingsmaterial nicht sauber trennen lassen, entstehen Fehler unter ganz natürlichem statistischem Druck.
Warum das Training es verschlimmert
Spannender als die Wurzel ist die Frage, warum das Problem so hartnäckig bleibt. Eine vielbeachtete OpenAI-Untersuchung von 2025 liefert eine unbequeme Antwort: Die Art, wie wir Modelle bewerten, belohnt Raten.
Die meisten Benchmarks zählen nur, wie viele Antworten richtig sind. Eine richtige Antwort gibt einen Punkt, eine falsche null – und ein ehrliches „Ich weiß es nicht" ebenfalls null. Unter dieser Logik ist die optimale Strategie für ein Modell, immer zu raten, selbst bei minimaler Sicherheit. Es verhält sich wie ein Prüfling, der bei einer Klausur ohne Minuspunkte jede Lücke mit einer beherzten Vermutung füllt. Wir haben der KI also beigebracht, ein selbstsicherer Test-Taker zu sein.
Verstärkt wird das durch die menschliche Rückmeldung im Training (RLHF): Bewerter belohnen Antworten, die kompetent und zustimmend klingen. So entsteht eine Neigung zur Zustimmung (das Modell gibt dem Nutzer recht, auch wenn der irrt) und zum überzeugten Auftreten (sprachliche Sicherheit, die die tatsächliche Datenlage nicht deckt). Die vorgeschlagene Lösung der Forscher ist ebenso simpel wie weitreichend: die Bewertungsmaßstäbe ändern – Teilpunkte für ehrlich eingestandene Unsicherheit, Abzug für selbstbewusste Fehlantworten, ähnlich der Minuspunkte gegen blindes Raten in Prüfungen. Bemerkenswert dabei: Gut kalibriert zu sein („wissen, was man nicht weiß") ist rechnerisch billiger als durchgehend korrekt zu sein – selbst kleine Modelle können das.
Wo es im Alltag schiefgeht
Aus diesen Mechanismen entstehen wiederkehrende Fehlermuster, die man kennen sollte:
Veraltetes Wissen: Nach dem Redaktionsschluss (Knowledge Cutoff) rät das Modell bei aktuellen Ereignissen, statt die Lücke offenzulegen.
RAG-Lücken: Scheitert die Dokumentensuche, greift das Modell auf gespeichertes Wissen zurück und konfabuliert – unvollständige Datenbestände sind der Hauptgrund für Fehler in solchen Systemen.
Code, der trügt: erzeugter Programmcode ist oft syntaktisch korrekt, enthält aber Logikfehler, Sicherheitslücken oder Aufrufe nicht existierender Funktionen.
Zustimmung um jeden Preis: Auf eine falsche Annahme im Prompt antwortet das Modell bestätigend, statt zu widersprechen.
Wie Maschinen Quellen überhaupt gewichten – und warum gute Belege deshalb so wichtig sind –, vertieft unser Beitrag dazu, wie KI-Systeme Quellen bewerten.
Was wirklich hilft
Reine Prompt-Tricks reichen nicht. Wer Sprachmodelle verlässlich in ernste Abläufe einbettet, braucht ein mehrschichtiges Abwehrsystem:
1. Erden: eine saubere, vollständige Datenanbindung (RAG) – denn unvollständiger Kontext mündet direkt in Konfabulation.
2. Quellen erzwingen: jede Behauptung mit einem prüfbaren Verweis belegen lassen, den nachgelagerte Werkzeuge automatisch kontrollieren.
3. Unsicherheit einfordern: das Modell vor der Ausgabe zur Selbstkritik auffordern („Liste unbelegte Annahmen auf").
4. Kalibrieren: das Belohnungsmodell so trainieren, dass ehrliches Nichtwissen nicht länger bestraft wird.
5. Prozesse überwachen: nicht nur das Endergebnis bewerten, sondern die einzelnen Denkschritte – so werden Logiksprünge früh abgefangen.
6. Mensch in der Schleife: in Medizin, Recht und Finanzen unverzichtbar.
Diese letzte Schicht ist auch eine Haftungsfrage: Wenn ein KI-System einen Schaden verursacht, entscheidet die Verantwortungskette – mehr dazu in unserem Beitrag zur KI-Haftung.
Der größere Umbruch: stößt der Transformer an seine Grenzen?
Hinter den Symptomen steht eine Architekturfrage. Das Aufmerksamkeitsverfahren des Transformers vergleicht jedes Token mit jedem anderen – der Rechen- und Speicherbedarf wächst dadurch quadratisch mit der Eingabelänge. Bei langen Eingaben zwingt das die Modelle zur Datenverdichtung, ein direkter Auslöser für Konfabulationen.
Für 2026 zeichnet sich deshalb ein Wandel ab – weg vom reinen Transformer, hin zu effizienteren Bauweisen:
Zustandsraummodelle (SSMs) / Mamba: Sie verarbeiten Sequenzen linear statt quadratisch und merken sich über einen „selektiven" Zustand, was wichtig ist. Das im März 2026 veröffentlichte Mamba-3 übertrifft die Transformer-Basislinie um einige Prozentpunkte und ist bei langen Sequenzen bis zu siebenmal schneller.
Hybride Architekturen: Weil reine SSMs beim präzisen Faktenabruf und beim logischen Schließen schwächeln, kombinieren führende Anbieter beides. IBMs Granite 4.0 (Oktober 2025) verbindet Mamba- und Transformer-Schichten, um die Kosten großer Unternehmens-Deployments zu senken.
Weitere Linien: rekurrente Ansätze wie xLSTM und RWKV verbinden effizientes Schlussfolgern mit paralleler Trainierbarkeit.
Wichtig zur Einordnung gegen den Hype: Für allgemeines Chatten, komplexes Schließen und Code bleibt der Transformer 2026 die erste Wahl – seine Stärke beim assoziativen Abruf ist schwer zu ersetzen. Der Weg führt deshalb nicht zum Ende des Transformers, sondern zu Mischsystemen, die Effizienz und Genauigkeit verbinden.
Fazit: Eloquenz ist kein Wahrheitsbeweis
Sprachmodelle irren nicht aus böser Absicht, sondern weil sie mathematisch darauf getrimmt wurden, uns mit flüssigen Mustern zu gefallen – und weil unsere Bewertungen genau dieses selbstbewusste Raten belohnen. Für die Praxis folgt daraus eine einfache Haltung: Eine souverän klingende Antwort ist kein Beweis ihrer Richtigkeit. Behandle KI-Ausgaben als Entwurf, der geerdet, belegt und – wo es zählt – von Menschen geprüft werden muss. Die Lösung ist halb technisch (bessere Bewertungen, Kalibrierung, neue Architekturen) und halb kulturell: aufhören, das selbstbewusste Raten zu belohnen. In einer Welt, in der man zunehmend beweisen muss, was echt ist, ist gesunde Skepsis gegenüber perfekter Rhetorik die wichtigste Kompetenz.
Häufige Fragen zur Verlässlichkeit von Sprachmodellen
Was ist Konfabulation bei KI?
Das überzeugte Füllen von Wissenslücken mit erfundenen, aber statistisch naheliegenden Inhalten. Der Begriff stammt aus der Neuropsychologie und beschreibt das Phänomen treffender als „Halluzination", weil keine Sinneswahrnehmung im Spiel ist.
Warum halluzinieren bzw. konfabulieren Sprachmodelle?
Weil sie das wahrscheinlichste nächste Wort berechnen, nicht die Wahrheit – und weil gängige Bewertungen Raten höher belohnen als ein ehrliches „Ich weiß es nicht". Fehlt Kontext, füllt das Modell die Lücke selbstbewusst.
Lügt KI absichtlich?
Nein. Lügen setzt eine bewusste Täuschungsabsicht voraus, die ein Sprachmodell nicht hat. Es kennt weder Absicht noch Wahrheit, sondern erzeugt das statistisch plausibelste Muster.
Was hilft gegen KI-Halluzinationen?
Ein mehrschichtiger Ansatz: saubere Datenanbindung (RAG), Quellenpflicht mit prüfbaren Verweisen, Training auf ehrliche Unsicherheit (Kalibrierung), Überwachung der Denkschritte und menschliche Kontrolle bei kritischen Themen. Reine Prompt-Tricks genügen nicht.
Lösen neue Architekturen wie Mamba das Problem?
Sie mildern eine Ursache: Zustandsraummodelle verarbeiten lange Eingaben effizienter und reduzieren so den Verdichtungsdruck. Allein lösen sie das Problem aber nicht; 2026 setzen führende Anbieter auf hybride Modelle aus SSM- und Transformer-Schichten.
Transparenz: Bebilderung dieses Beitrags KI-generiert. Redaktionell geprüft und eigenständig recherchiert.