Generative KI kann Informationen strukturieren, Entwürfe beschleunigen und neue Perspektiven liefern. Sie kann aber auch Aussagen erzeugen, die überzeugend klingen und dennoch falsch, unbelegt oder widersprüchlich sind. Solche Ausgaben werden häufig als KI-Halluzinationen bezeichnet. Im beruflichen Alltag entsteht das eigentliche Risiko nicht durch einen einzelnen Fehler, sondern dann, wenn ein ungeprüftes Ergebnis in eine Entscheidung, Kundeninformation, Berechnung oder Dokumentation einfließt.
Das NIST-Profil für generative KI verwendet dafür den Begriff „Confabulation“ und beschreibt selbstbewusst präsentierte falsche oder fehlerhafte Inhalte als spezifisches Risiko generativer Systeme. Die folgenden acht Prüfschritte helfen Dir, KI-Ausgaben systematisch zu kontrollieren. Sie ersetzen keine fachliche, rechtliche oder sicherheitsbezogene Einzelfallprüfung.
1. Zweck und mögliche Folgen vor der Prüfung klären
Bevor Du einen KI-Text kontrollierst, musst Du wissen, wofür er verwendet werden soll. Ein Ideenspeicher für eine interne Besprechung benötigt eine andere Prüftiefe als eine Kundeninformation, eine Vertragsauslegung oder eine Entscheidung über Geld, Personal oder Sicherheit. Definiere deshalb Zweck, Zielgruppe und Konsequenz eines Fehlers.
Ordne den Anwendungsfall in eine einfache Risikostufe ein: niedrig bei unverbindlicher Inspiration, mittel bei internen Arbeitsergebnissen und hoch bei externen, rechtlich relevanten oder folgenreichen Aussagen. Je höher das Risiko, desto belastbarer müssen Quellen, Fachprüfung, Freigabe und Dokumentation sein. KI übernimmt dabei keine Verantwortung; diese bleibt bei den beteiligten Menschen und der Organisation.
2. Den Text in einzelne überprüfbare Aussagen zerlegen
Lange Antworten wirken oft schlüssig, obwohl sie verschiedene Arten von Aussagen vermischen. Markiere deshalb Fakten, Bewertungen, Annahmen, Empfehlungen und offene Fragen getrennt. Eine Behauptung wie „Die Regel gilt seit 2025 für alle Unternehmen“ enthält beispielsweise mehrere prüfbare Elemente: Welche Regel? Seit wann? Für wen? Gibt es Ausnahmen?
Erstelle für wichtige Ausgaben eine kleine Prüfliste mit jeweils einer Aussage pro Zeile. So wird sichtbar, welche Punkte eine Quelle benötigen und welche Formulierungen nur Vorschläge sind. Diese Zerlegung verhindert, dass ein korrekter Absatz eine einzelne falsche Zahl oder Einschränkung verdeckt.
3. Namen, Daten, Zahlen und Zitate zuerst kontrollieren
Besonders fehleranfällig sind konkrete Details: Personennamen, Institutionen, Gesetzesstellen, Versionsnummern, Fristen, Preise, Prozentwerte und Rechenergebnisse. Prüfe sie zuerst, weil sie häufig unmittelbar weiterverwendet werden. Achte auch auf scheinbar plausible Mischungen aus echten und erfundenen Angaben.
Zitate verdienen eine eigene Kontrolle. Suche die ursprüngliche Fundstelle und vergleiche Wortlaut, Kontext und Urheber. Findest Du eine Quelle nicht, darf das Zitat nicht als belegt gelten. Dass ein KI-System einen Link, Buchtitel oder Aktenverweis nennt, ist noch kein Nachweis seiner Existenz oder seiner Aussage.
4. Quellen tatsächlich öffnen und zum Inhalt abgleichen
Eine Quellenliste am Ende einer KI-Antwort kann Vertrauen erzeugen, ohne dass die Quellen die Aussagen wirklich stützen. Öffne deshalb jeden wichtigen Link. Prüfe Autor oder herausgebende Stelle, Veröffentlichungsdatum, Aktualität, Geltungsbereich und den konkreten Abschnitt, auf den Du Dich beziehst.
Bevorzuge bei Gesetzen, Förderung, Normen, Hochschulfragen oder Behördeninformationen die zuständige offizielle Primärquelle. Sekundärtexte können erklären, sollten aber eine verbindliche Grundlage nicht ersetzen. Dokumentiere bei zentralen Aussagen, welche Fundstelle Du geprüft hast und wann die Prüfung erfolgte.
5. Ergebnis mit unabhängigen Referenzen vergleichen
Verlasse Dich nicht darauf, dass eine zweite Formulierung derselben KI die erste Antwort bestätigt. Vergleiche kritische Aussagen mit unabhängigen, verlässlichen Quellen oder vorhandenen Unternehmensunterlagen. Zwei Webseiten, die denselben ungeprüften Ursprung wiederholen, sind dabei keine echte Bestätigung.
Das Bundesamt für Sicherheit in der Informationstechnik empfiehlt im Kontext generativer KI unter anderem, Ausgaben abhängig vom Anwendungsfall prüfen, mit anderen Quellen abgleichen und vor Folgeaktionen nachbearbeiten zu können. Diese Kontrolle sollte fest in den Arbeitsprozess eingebaut werden – nicht nur dann stattfinden, wenn ein Ergebnis bereits verdächtig wirkt.
6. Logik, Widersprüche und Rechenwege testen
Auch ohne externe Quelle lassen sich viele Fehler durch interne Prüfung erkennen. Stimmen Einleitung und Fazit überein? Werden Begriffe einheitlich verwendet? Passen Aufzählung, Anzahl und Überschriften zusammen? Folgt die Empfehlung tatsächlich aus den genannten Gründen? Suche gezielt nach Ausnahmen, Gegenbeispielen und fehlenden Voraussetzungen.
Berechnungen solltest Du außerhalb des Sprachmodells nachvollziehen. Nutze eine Tabellenkalkulation, einen Taschenrechner oder ein geprüftes Fachsystem und kontrolliere Eingabewerte, Einheit, Formel und Rundung. Ein korrekt aussehendes Ergebnis ist wertlos, wenn die zugrunde liegenden Zahlen oder Rechenregeln falsch sind.
7. Fachliche und sprachliche Freigabe trennen
Ein gut formulierter Text kann fachlich falsch sein, ein fachlich korrekter Entwurf kann missverständlich wirken. Trenne deshalb die Sachprüfung von der redaktionellen Prüfung. Die fachlich zuständige Person bestätigt Inhalte, Quellen und Grenzen; anschließend werden Verständlichkeit, Ton, Struktur und Zielgruppenbezug kontrolliert.
Bei sensiblen Themen muss zusätzlich geklärt werden, wer verbindlich freigeben darf. Für Rechts-, Steuer-, Medizin-, Personal- oder Sicherheitsfragen reicht eine allgemeine Plausibilitätsprüfung nicht. Nutze qualifizierte Fachstellen und dokumentierte Zuständigkeiten. Personenbezogene, vertrauliche oder geschützte Daten gehören nur in dafür freigegebene Systeme und Prozesse.
8. Prüfung, Korrekturen und Freigabe dokumentieren
Ein verlässlicher Prozess endet mit einem nachvollziehbaren Prüfvermerk. Halte fest, welches KI-System und welcher Arbeitsauftrag verwendet wurden, welche Quellen geprüft, welche Fehler korrigiert und wer das Ergebnis freigegeben hat. Der Umfang der Dokumentation sollte zum Risiko passen; ein kurzer interner Entwurf braucht weniger Nachweise als eine veröffentlichte Fachinformation.
Wiederkehrende Fehler sollten in die Verbesserung des Workflows einfließen. Überarbeite Prompts, ergänze Referenzmaterial, schärfe Checklisten oder begrenze ungeeignete Anwendungsfälle. So entsteht aus einzelnen Kontrollen ein lernender Qualitätsprozess.
Kompakte Prüfliste für KI-Ausgaben
- Zweck, Zielgruppe und Fehlerfolgen sind geklärt.
- Fakten, Annahmen und Empfehlungen sind getrennt markiert.
- Namen, Daten, Zahlen und Zitate wurden kontrolliert.
- Jede wesentliche Quelle wurde geöffnet und inhaltlich abgeglichen.
- Kritische Aussagen sind durch unabhängige Referenzen bestätigt.
- Logik, Widersprüche und Rechenwege wurden getestet.
- Fachliche und redaktionelle Freigabe sind eindeutig zugeordnet.
- Prüfung, Korrekturen und finale Freigabe sind dokumentiert.
Welche KI-Kompetenzen helfen im Berufsalltag?
Verlässliche KI-Nutzung verbindet Aufgabenanalyse, gute Anweisungen, Quellenkompetenz, Datenschutz, Qualitätskontrolle und Verantwortungsbewusstsein. Einen Überblick über öffentlich angebotene Lernwege findest Du bei den KI-Weiterbildungen von GrandEdu Media.
Für den strukturierten Einstieg ist die Weiterbildung KI-Grundlagenkompetenzen für die digitale Arbeitswelt öffentlich beschrieben. Wer den praktischen Einsatz und die Ergebnisprüfung vertiefen möchte, kann sich über Anwendungsbezogene KI für den beruflichen Arbeitsalltag informieren. Eignung, Förderung und konkrete Zulassung werden immer individuell geprüft.
FAQ: KI-Halluzinationen erkennen
Warum klingen falsche KI-Antworten oft überzeugend?
Sprachmodelle erzeugen wahrscheinlich passende Formulierungen. Flüssige Sprache und ein sicherer Ton sind deshalb kein Beleg für sachliche Richtigkeit. NIST weist darauf hin, dass falsche Inhalte auch selbstbewusst und mit scheinbaren Begründungen oder Quellen präsentiert werden können.
Kann ein besserer Prompt Halluzinationen vollständig verhindern?
Ein klarer Prompt kann Mehrdeutigkeiten reduzieren und die Prüfbarkeit verbessern, garantiert aber keine fehlerfreie Ausgabe. Quellenkontrolle und menschliche Freigabe bleiben bei relevanten Ergebnissen erforderlich.
Reicht es, dieselbe Frage ein zweites Mal zu stellen?
Nein. Eine zweite Antwort kann denselben Fehler wiederholen oder einen neuen erzeugen. Entscheidend ist der Abgleich mit unabhängigen, vertrauenswürdigen Referenzen und fachlichem Wissen.
Welche KI-Ergebnisse brauchen besonders strenge Kontrollen?
Je größer die möglichen Folgen, desto höher die Prüftiefe. Besonders sensibel sind unter anderem rechtliche, steuerliche, medizinische, personelle, sicherheitsbezogene und finanzielle Inhalte sowie Veröffentlichungen gegenüber Kunden oder Öffentlichkeit.
Fazit: Vertrauen entsteht durch einen kontrollierten Prozess
KI-Halluzinationen erkennst Du nicht zuverlässig am Schreibstil. Du brauchst einen strukturierten Prüfprozess: Aussagen zerlegen, Details kontrollieren, Quellen öffnen, unabhängige Referenzen vergleichen, Logik testen und Verantwortung eindeutig zuordnen. So wird generative KI zu einem unterstützenden Werkzeug, ohne dass überzeugende Formulierungen ungeprüft als Fakten weitergegeben werden.
Antworten zu Lernmodell, Kurswahl und möglicher Förderung findest Du in den häufigen Fragen. Für eine persönliche Einordnung kannst Du außerdem die Bildungsberatung von GrandEdu Media nutzen.