Wie das Ding überhaupt funktioniert

Wenn ChatGPT, Gemini oder Meta AI eine flüssige, freundliche Antwort schreiben, fühlt sich das an, als säße jemand auf der anderen Seite. Es sitzt niemand dort. Was stattdessen passiert, lässt sich mit etwas erklären, das Sie jeden Tag benutzen.

Die Wortvorschläge auf Ihrer Handy-Tastatur

Tippen Sie auf dem Handy „Ich komme heute etwas …“, schlägt die Tastatur „später“ vor. Sie hat nicht verstanden, dass Sie sich verspäten. Sie hat nur sehr oft gesehen, welches Wort nach diesen Wörtern kommt.

Ein Sprachmodell macht im Kern dasselbe – nur unvorstellbar viel größer. Es hat beim Training riesige Mengen Text gelesen: Bücher, Webseiten, Lexikonartikel, Foren. Seine einzige Aufgabe dabei war: Sag das nächste Wortstück voraus. Dann das nächste. Und das nächste. Aus diesen Einzelschritten entstehen ganze Aufsätze, Gedichte oder Erklärungen.

Weil das Modell dabei so viel Text gesehen hat, hat es nebenbei Grammatik, Zusammenhänge und eine Menge Wissen über die Welt aufgenommen – ohne dass jemand ihm Regeln einprogrammiert hat.

Warum es so höflich ist

Ein Modell, das nur Text fortsetzt, wäre kein guter Gesprächspartner. Deshalb kommt ein zweiter Schritt: Menschen bewerten viele Antworten des Modells – hilfreich oder nicht, freundlich oder nicht, ehrlich oder nicht. Daraus lernt das Modell, wie eine „gute“ Antwort aussieht.

Das erklärt, warum Chatbots so zugewandt klingen, loben und sich entschuldigen. Es ist antrainiertes Verhalten, keine Zuneigung. Für Kinder ist dieser Unterschied nicht selbstverständlich – gerade wenn ein Chatbot immer Zeit hat, nie genervt ist und immer zustimmt.

Was das Modell nicht tut

• Es schlägt nicht nach. Solange keine Internetsuche eingebaut ist, antwortet das Modell aus dem, was es beim Training gelernt hat. Neuere Ereignisse kennt es dann nicht.
• Es weiß nicht, ob etwas stimmt. Es berechnet, was wahrscheinlich passt. Meistens ist das richtig – manchmal klingt es nur richtig. Mehr dazu im Artikel „Wenn die KI Unsinn erzählt“.
• Es kennt Ihr Kind nicht. Es wirkt vertraut, weil es sich auf den Gesprächsverlauf bezieht. Was dabei eingegeben wird, kann aber beim Anbieter gespeichert werden. Mehr dazu in „Alter, Regeln, Daten“.

Ein Bild, das hängen bleibt

Stellen Sie sich einen extrem belesenen Papagei vor. Er hat Millionen Bücher gehört, kann in jedem Tonfall antworten und klingt dabei klug. Aber er prüft nicht, ob stimmt, was er sagt – und er hat kein Interesse daran, ob es Ihnen gut geht.

Das ist nicht abwertend gemeint. Ein solcher Papagei kann sehr nützlich sein: beim Erklären, Üben, Formulieren. Man muss nur wissen, womit man spricht.

Was Sie tun können

• Probieren Sie einen Chatbot selbst aus, bevor Ihr Kind es tut. Fragen Sie etwas, bei dem Sie die Antwort genau kennen – Ihren Heimatort, Ihren Beruf.
• Sprechen Sie von „dem Programm“, nicht von „ihm“ oder „ihr“. Das klingt pedantisch, hilft Kindern aber, Abstand zu halten.
• Achten Sie darauf, ob ein Chatbot in einer App steckt, die Ihr Kind schon nutzt – etwa in Messengern oder sozialen Netzwerken.

Fürs Gespräch mit Ihrem Kind

• „Woher weiß der Chatbot das eigentlich?“
• „Glaubst du, er merkt, ob du traurig bist – oder tut er nur so?“
• „Was würdest du ihm nicht erzählen?“