Warum erfindet KI Dinge mit solcher Überzeugung?

Ein Sprachmodell erzeugt Text, indem es wahrscheinliche Tokens vorhersagt – eine flüssige Formulierung ist also kein Beweis, dass eine Behauptung stimmt. Je nach System und Prompt antwortet es richtig, zieht eine externe Quelle heran, gibt Unsicherheit zu – oder liefert eine plausible Falschaussage. Der selbstsichere Ton kommt schlicht vom flüssigen Textgenerieren und darf nie als Beleg gelten.

Was erfindet KI am ehesten?

Besonders gründlich prüfen sollten Sie Gesetzesstellen und Urteile, Namen von Personen und Firmen, Steuersätze und Fristen, Quell-URLs, Preise sowie lokale Programme und Ansprechpartner. Die Fehlerquote hängt von System, Prompt, Sprache und dem Zugriff auf aktuelle Quellen ab – behandeln Sie folgenreiche Details als ungeprüft, bis eine maßgebliche Quelle sie bestätigt.

KI-Halluzinationen erkennen

KI lügt nicht absichtlich – aber sie kann halluzinieren, weil sie wahrscheinliche Wörter erzeugt, keine geprüften. Ein Sprachmodell ist vor allem darauf trainiert, Text vorherzusagen; eine flüssige Ausgabe heißt also nicht automatisch, dass geprüfte Fakten dahinterstehen. Derselbe Mechanismus kann korrekten Text liefern oder eine plausible Falschaussage – und wenn das Modell mit Unsicherheit schlecht umgeht, rät es, statt zu sagen, dass es die Antwort nicht prüfen kann. Lernen Sie die Muster unten kennen, dann erkennen Sie die offensichtlichen Warnzeichen schnell. Für eine verlässliche Prüfung heißt es trotzdem manchmal: maßgebliche Quellen aufschlagen oder jemanden vom Fach fragen.

Die üblichen Verdächtigen

Konkrete, nachprüfbare Details verdienen besondere Aufmerksamkeit – ein plausibler Fehler an so einer Stelle wird leicht weiterkopiert und kann teuer werden:

Paragraphen, Gesetze, Urteile. „Nach Artikel 347 Absatz 2 …“ – kann erfunden, veraltet oder der falschen Vorschrift zugeordnet sein.
Namen von Personen, Firmen, Lieferanten. Das Modell weiß: Hier gehört ein Name hin – also setzt es womöglich einen ein. Klingt echt, muss aber nicht existieren.
Zahlen im technischen Detail. Mehrwertsteuersätze, Fristen, Grenzwerte, Normen (NBN, EN, ISO) – können falsch zitiert oder veraltet sein.
Quellen und URLs. Ein Modell kann Links erzeugen, abrufen oder kopieren – prüfen Sie, ob jeder sich öffnen lässt, zur erwarteten Quelle führt und die Behauptung wirklich stützt.
Konkrete Preise und Produkte. „Genau dieses Werkzeugmodell kostet [exakter Betrag] beim Großhändler“ – kann reine Erfindung sein.
Lokales Wissen. Kleine Regionen, lokale Behörden, Ansprechpartner und Programme vor Ort – die Abdeckung schwankt und kann dünn oder veraltet sein, wo online wenig maßgebliches Material existiert. Prüfen Sie das bei der zuständigen Behörde oder Organisation vor Ort.

Fünf Wege, das Risiko zu senken – und Fehler zu erwischen

Zweite Meinung. Stellen Sie dieselbe Frage in einem zweiten, anderen KI-Tool. Weichen die Antworten stark voneinander ab, ist das ein Warnsignal – aber Übereinstimmung ist kein Beweis: Tools können denselben populären Fehler wiederholen oder sich auf dieselben Quellen stützen. Prüfen Sie wichtige Behauptungen also so oder so unabhängig. Und fügen Sie kein vertrauliches Material in einen zweiten, nicht freigegebenen Dienst ein, nur um gegenzuprüfen – siehe welche Daten sicher in KI eingegeben werden können.
Nach Quellen fragen – und sie dann lesen. „Welche Quelle belegt das?“ Prüfen Sie, ob die Quellen existieren und ob jede einzelne maßgeblich und aktuell ist und wirklich sagt, was die Antwort behauptet – lesen Sie die relevante Passage, nicht nur den Titel. Bei Gesetzestexten: immer nachschlagen.
Die Antwort in prüfbare Teile zerlegen. Bitten Sie das Modell, seine Faktenbehauptungen, Annahmen und Rechenschritte aufzulisten, und prüfen Sie diese Teile dann unabhängig. Eine flüssige Erklärung ist kein Beleg: Auch eine falsche Antwort kann mit überzeugender Begründung daherkommen – sehen Sie die Bitte um eine Begründung deshalb nicht als Wahrheitstest.
Für Fakten ein quellengestütztes Tool nutzen – als Wegweiser. Ein aktueller Preis, eine Vorschrift oder eine Förderung gehört in ein Recherche-Tool, das sichtbare Quellen liefert – Perplexity etwa, oder die KI-Antworten in den Suchergebnissen – statt in einen reinen Chatbot. Und dann ab zum Original: zum Verkäufer oder Hersteller für den Preis, zur zuständigen Behörde oder amtlichen Veröffentlichung für die Vorschrift. Eine Quellenangabe macht das Prüfen leichter – richtig macht sie die Antwort nicht.
Verstehen, was „Temperatur“ tut – und was nicht. Falls die Oberfläche diese Einstellung anbietet: Ein niedrigerer Wert macht die Ausgabe vor allem weniger variabel – was ändern kann, welche Antwort Sie bekommen. Faktenprüfung ist das nicht: Keine Einstellung garantiert Richtigkeit, und falsche Behauptungen tauchen auch bei niedrigen Werten auf.

Die goldene Regel

Bevor eine wichtige Behauptung einen Kunden, eine Behörde oder ein Gericht erreicht, prüfen Sie sie an einer aktuellen, maßgeblichen Quelle – die Namen, Zahlen, Paragraphen, Adressen und Daten, und genauso die darauf gebauten Zusammenfassungen und Schlussfolgerungen: Die können Einschränkungen unter den Tisch fallen lassen oder still genau der Quelle widersprechen, die sie zitieren.

Warnhinweise

Das Anwaltsdesaster. Gerichte haben Anwälte sanktioniert, die Schriftsätze mit KI-erfundenen Urteilen eingereicht hatten – Rüge und Rufschaden inklusive. Was für Anwälte gilt, gilt für alle, die beruflich arbeiten.
Website-Chatbots sind eine eigene Gefahrenzone. Eine gerichtsähnliche Instanz in Kanada hat entschieden, dass Air Canada haftet, nachdem der Chatbot auf der Firmenwebsite einem Kunden eine falsche Auskunft dazu gegeben hatte, wie man einen Trauertarif beantragt. Ein Unternehmen kann für falsche automatisierte Inhalte auf seiner Website geradestehen müssen – wobei die Haftung vom Einzelfall und vom anwendbaren Recht abhängt.
Eine menschliche Prüfung ist nur so gut wie die Person, die prüft. Wer prüft, braucht Fachwissen, Zugriff auf die Originalquellen und die Zeit, die Ausgabe infrage zu stellen – flüssigen Text überfliegen und freigeben ist keine Prüfung.

Kein Modell schafft das Halluzinationsrisiko aus der Welt. Nutzen Sie quellengestützte Tools und sorgfältige Prompts, wo sie helfen – und lassen Sie am Ende einen qualifizierten Menschen im Prozess folgenreiche Ausgaben prüfen, bevor etwas rausgeht. Siehe auch was KI ist und was nicht.

Was zu tun ist

Nehmen Sie eine KI-Antwort aus der letzten Woche und prüfen Sie drei konkrete Details nach (Zahlen, Namen, Paragraphen).
Führen Sie eine Regel ein: Jede folgenreiche Faktenbehauptung braucht eine nachvollziehbare, maßgebliche Quelle, die Sie wirklich geöffnet haben – sonst verwenden Sie sie nicht.
Bei allem Rechtlichen oder Steuerlichen: KI-Ausgabe nur als Denkanstoß nehmen – und dann mit jemandem vom Fach klären.