Warum die KI manchmal Dinge erfindet und wie du es merkst
KI-Chatbots schreiben, was plausibel klingt, nicht was sicher stimmt. Darum erfinden sie manchmal Zahlen, Zitate oder Quellen, und zwar mit voller Überzeugung.
Frag einen Chatbot nach den fünf bekanntesten Büchern einer Schweizer Autorin, und du bekommst eine schöne Liste. Mit Titeln, Erscheinungsjahren und einer kurzen Beschreibung. Das Problem: Zwei davon gibt es vielleicht gar nicht.
Fachleute nennen das Halluzination. Gemeint ist: Die KI sagt überzeugt etwas Falsches. Nicht aus böser Absicht, sondern weil sie so gebaut ist.
Warum passiert das?
Ein Chatbot schreibt die Antwort, die am wahrscheinlichsten passt. Bei häufigen Themen ist das fast immer auch die richtige. Bei seltenen Themen fehlt ihm aber das Wissen, und dann füllt er die Lücke mit etwas, das plausibel klingt. Ein Buchtitel, der zur Autorin passen würde. Eine Zahl, die realistisch wirkt. Ein Zitat, das jemand so gesagt haben könnte.
Das Tückische: Erfundenes klingt genauso selbstsicher wie Richtiges. Die KI zögert nicht, sie stottert nicht, sie errötet nicht.
Hier solltest du hellhörig werden
- Sehr genaue Zahlen ohne Quelle, zum Beispiel «43,7 Prozent aller Schweizer …»
- Zitate von bekannten Personen
- Quellen und Links, besonders wenn sie nicht anklickbar sind
- Gesetzesartikel und Paragrafen
- Lokales: Öffnungszeiten, kleine Firmen, Personen aus deiner Gemeinde
- Seltene Themen, über die wenig geschrieben wurde
So prüfst du eine Antwort in drei Schritten
- Nach der Quelle fragen. Schreib: «Woher weisst du das?» Klick die Links an. Führt ein Link ins Leere, ist Vorsicht angesagt.
- Eine zweite Quelle suchen. Eine kurze Suche im Internet oder auf einer offiziellen Seite, etwa ch.ch oder der Website deiner Gemeinde.
- Anders fragen. Stell dieselbe Frage in einem neuen Chat mit anderen Worten. Kommt jedes Mal etwas anderes heraus, weiss die KI es vermutlich nicht.
Gut zu wissen: Viele Chatbots können heute selbst im Internet suchen und zeigen dann ihre Quellen an. Das hilft sehr, ersetzt aber das Nachprüfen nicht. Auch eine KI kann eine Quelle falsch verstehen.
Ein Satz, der hilft
Du kannst die KI ausdrücklich bitten, zuzugeben, wenn sie etwas nicht weiss. Das verhindert nicht jeden Fehler, macht aber ehrlichere Antworten wahrscheinlicher:
Beantworte meine Frage nur, wenn du dir sicher bist. Wenn nicht, sag ehrlich: «Das weiss ich nicht.» Nenne zu jeder wichtigen Aussage eine Quelle, die ich selbst überprüfen kann.
Für Ideen, Formulierungen und Erklärungen darfst du der KI viel zutrauen. Für Fakten, auf die du dich verlassen musst, gilt: erst prüfen, dann weitererzählen. Bei Gesundheit, Recht und Geld frag zusätzlich eine Fachperson.
Einordnung
Halluzinationen werden mit jeder Modellgeneration seltener, sind aber bei keinem Anbieter ganz verschwunden. Die Hinweise oben gelten für alle gängigen Chatbots.
Text mit KI-Unterstützung erstellt und von Fentrax geprüft.
