Kurz erklärt · Folge 5 · 0:44
Warum die KI so überzeugt lügt
Die KI empfiehlt ein Buch, mit Titel, Autor und sogar Seitenzahl. Nur gibt es das Buch gar nicht. Das passiert öfter, als man denkt, und das Tückische daran: Die erfundene Antwort klingt genauso überzeugt wie eine richtige.
Ein Sprachmodell weiß nicht im eigentlichen Sinn, was stimmt. Es rechnet bei jedem Schritt aus, welches Wort am wahrscheinlichsten als Nächstes passt. Meistens ist das auch richtig. Fehlt ihm aber das Wissen, füllt es die Lücke mit etwas, das plausibel klingt, statt „weiß ich nicht“ zu sagen. Ob die Antwort stimmt, prüft es dabei nicht. Fachleute nennen das Halluzinieren. Deshalb gilt: Je wichtiger eine Angabe ist, desto eher solltest du sie selbst nachprüfen.
Das Wichtigste auf einen Blick
- Nach der Quelle fragen: Lass dir sagen, woher eine Angabe stammt.
- Selbst nachschauen: Prüfe, ob es Buch, Studie oder Link wirklich gibt.
- Sicherer Ton ist kein Beweis: Die KI klingt bei Erfundenem genauso überzeugt wie bei Fakten.