Wenn die KI Unsinn erzählt

Ein Kind fragt einen Chatbot nach dem Inhalt einer Lektüre für den Deutschunterricht. Die Antwort ist gut gegliedert, nennt Figuren, fasst die Handlung zusammen – und die Hälfte davon kommt im Buch nicht vor. Nichts an der Antwort verrät das. Sie klingt genauso sicher wie eine richtige.

Fachleute nennen das Halluzination: eine Antwort, die plausibel klingt, aber erfunden ist.

Warum das passiert

Ein Sprachmodell setzt Text so fort, wie es am wahrscheinlichsten passt (siehe „Wie das Ding überhaupt funktioniert“). Es hat keinen eingebauten Moment, in dem es innehält und sagt: „Das weiß ich nicht.“ Wenn die Lücke im Wissen groß ist, füllt es sie trotzdem – mit etwas, das so aussieht, wie eine Antwort an dieser Stelle aussehen würde.

Deshalb halluzinieren Modelle besonders dort, wo es auf genaue Einzelheiten ankommt:

• Quellen und Zitate: Buchtitel, Autorennamen, Links, die es nicht gibt.
• Zahlen und Daten: Jahreszahlen, Einwohnerzahlen, Messwerte.
• Wenig bekannte Themen: ein Heimatort, ein Schulbuchkapitel, eine Lektüre, über die im Internet wenig steht.
• Rechenwege: Das Ergebnis passt, der Weg dahin nicht – oder umgekehrt.

Das passiert nicht nur Schulkindern. 2023 reichten zwei Anwälte in New York einen Schriftsatz ein, der sechs Gerichtsurteile zitierte. ChatGPT hatte sie erfunden – samt Aktenzeichen. Das Gericht verhängte eine Strafe von 5.000 US-Dollar. Selbst OpenAI, das Unternehmen hinter ChatGPT, schreibt in einer Forschungsarbeit von 2025, dass Sprachmodelle bei Unsicherheit manchmal raten und dabei plausible, aber falsche Aussagen machen, statt die Unsicherheit zuzugeben.

Die Modelle werden besser, und viele Chatbots durchsuchen inzwischen das Internet und nennen Quellen. Das senkt das Risiko, beseitigt es aber nicht – auch eine genannte Quelle muss man anklicken, um zu sehen, ob dort wirklich steht, was behauptet wird.

Das eigentliche Problem bei Hausaufgaben

Falsche Antworten gibt es auch in Büchern und im Internet. Neu ist, dass die KI immer gleich überzeugt klingt. Ein unsicherer Mitschüler zögert, eine schlechte Webseite sieht unseriös aus. Der Chatbot formuliert Richtiges und Falsches im selben ruhigen, gut gegliederten Ton.

Wer das Thema noch nicht kann – und genau darum geht es bei Hausaufgaben –, kann den Unterschied nicht erkennen.

Was Sie tun können

• „Zeig mir, wo das steht.“ Lassen Sie Ihr Kind jede wichtige Aussage im Schulbuch, im Heft oder in einer verlässlichen Quelle wiederfinden.
• In eigenen Worten erklären lassen. Wer die Antwort nicht erklären kann, hat sie nicht verstanden – egal ob sie stimmt.
• Den Chatbot testen. Fragen Sie gemeinsam nach etwas, das Sie genau kennen: Ihrem Ort, Ihrer Familie, einem Lieblingsbuch. Die Fehler sind oft das beste Lehrmaterial.
• Rechnen gegenprüfen. Ergebnisse einsetzen, überschlagen, mit dem Taschenrechner nachrechnen.
• Nachfragen lohnt sich. „Bist du sicher? Welche Quelle hast du?“ bringt den Chatbot oft dazu, Fehler zu korrigieren – oder neue zu erfinden. Beides zeigt, wie er arbeitet.

Fürs Gespräch mit Ihrem Kind

• „Woran würdest du merken, dass die Antwort falsch ist?“
• „Was machst du, wenn Chatbot und Schulbuch sich widersprechen?“
• „Hat dir die KI schon mal etwas Falsches erzählt?“