Der KI-Output-Faktenchecker: Halluzinierte Behauptungen erkennen, bevor Sie auf Senden drücken

KI-generierte Texte haben eine spezifische Fehlerart, die sich von gewöhnlichen menschlichen Fehlern unterscheidet: Sie produzieren selbstbewusste, flüssige und plausibel klingende Behauptungen, die manchmal einfach erfunden sind. Eine halluzinierte Statistik liest sich genau wie eine echte. Ein erfundenes Zitat klingt exakt so, wie es ein echter Analyst sagen könnte. Genau das macht Halluzinationen gefährlich – sie sehen nicht falsch aus, und ein normales Durchlesen auf Ton und Klarheit wird sie nicht aufdecken.

Dieser Prompt wurde entwickelt, um genau diese Fehlerart zu erkennen, indem die Faktenprüfung als eigener separater Durchlauf behandelt wird, mit einer eigenen expliziten Taxonomie dessen, worauf zu achten ist.

Warum der Prompt auf bestimmte Behauptungstypen abzielt

Der Abschnitt Task fordert das Modell nicht einfach auf, „nach Fehlern zu suchen“ – er listet sechs spezifische Kategorien auf: Statistiken, Daten, Zitate, Quellenangaben, benannte Entitäten und Superlative. Das ist wichtig, weil allgemeine Anweisungen zur Faktenprüfung nur allgemeine, wenig wertvolle Ausgaben liefern („das sieht genau aus“). Die Benennung der genauen Kategorien, in denen Halluzinationen gehäuft auftreten, zwingt das Modell, tatsächlich nach diesen Mustern zu suchen, anstatt nur eine vage Plausibilitätsprüfung durchzuführen.

Zitate und Quellenangaben erhalten besondere Aufmerksamkeit, da sie die Kategorie mit dem höchsten Risiko für Halluzinationen sind. Eine erfundene Statistik ist schlecht; ein erfundenes Zitat, das einer realen, namentlich genannten Person zugeschrieben wird, ist eine ganz andere Art von Problem – es ist eine falsche Aussage darüber, was jemand gesagt hat, was echte Organisationen im Jahr 2026 bereits in rechtliche und rufschädigende Schwierigkeiten gebracht hat, einschließlich mindestens eines vielbeachteten Falls einer rechtlichen Einreichung, die erfundene Rechtsprechung zitierte.

Warum Plausibilität nicht ausreicht

Die wichtigste Zeile im Abschnitt Constraints ist die Anweisung, niemals „klingt plausibel“ als Verifizierungsstandard zu akzeptieren. Dies zielt direkt darauf ab, wie Halluzinationen tatsächlich funktionieren: Ein Modell, das zuerst eine Statistik erfunden hat, wird bei einer beiläufigen Überprüfung seiner eigenen Arbeit oft dieselbe erfundene Statistik für plausibel halten – weil es sie generiert hat, um plausibel zu sein. Die Forderung nach einer vierfachen Klassifikation (verifiziert / nicht verifizierbar / Halluzinationsmuster / erfunden) anstelle einer binären Überprüfung zwingt das Modell, seine eigene Unsicherheit explizit zu machen, anstatt standardmäßig falsche Sicherheit vorzutäuschen.

Warum ungewöhnlich präzise Zahlen besonders markiert werden

Die Anweisung, nicht gerundete, ungewöhnlich spezifische Zahlen zu markieren („73,4 %“ statt „etwa 75 %“), zielt auf ein echtes, dokumentiertes Muster ab, wie halluzinierte Statistiken typischerweise aussehen – erfundene Zahlen tragen oft eine falsche Präzision, die echte Statistiken, die meist aus unvollkommenen Umfragen oder gerundeten Berichten stammen, nicht aufweisen. Dies ist eine Heuristik, keine Garantie, aber es ist ein nützlicher erster Filter, der einen bedeutenden Anteil erfundener Zahlen auf den ersten Blick erfasst.

Wie gute Ausgabe aussieht

Ein nützlicher Durchlauf dieses Prompts sollte mit einem eindeutigen Urteil enden – nicht „sieht meistens in Ordnung aus“, sondern einem spezifischen Ja/Nein/Noch-nicht, verknüpft mit einer kurzen Liste dessen, was genau behoben werden muss. Wenn die Ausgabe des Modells vages Herumgerede ohne konkrete Behauptungs-für-Behauptungs-Bewertungen ist, hat der Prompt versagt und das Modell muss wahrscheinlich daran erinnert werden, den Text systematisch durchzuarbeiten, anstatt seinen Gesamteindruck zusammenzufassen.

Die Grenzen dieses Musters

Dieser Prompt ist nur so gut wie die Fähigkeit des Modells, Behauptungen tatsächlich mit echten Informationen zu verifizieren – ohne Websuche oder eine angeschlossene Wissensquelle macht das Modell lediglich fundierte Vermutungen darüber, welche Behauptungen riskant aussehen, und bestätigt keine tatsächlichen Fakten. Behandeln Sie die Ausgabe als eine strukturierte Risikotriage, die Ihnen sagt, wo Sie Ihre begrenzte Verifizierungszeit einsetzen sollten, nicht als Ersatz dafür, die risikoreichsten Elemente (insbesondere Zitate und Quellenangaben) selbst anhand einer Primärquelle zu überprüfen.