Nico KüchlerDesigner & Entwickler
← Alle Artikel

Montag, 16. November 2026 · Eltern & Schule

Kinder sind kein Content: Was Fotos, Videos und Sprachnachrichten Ihrer Kinder heute für KI bedeuten

Ein Foto vom Schulfest, ein Video im Klassenchat. Für KI-Programme ist das Rohmaterial. Wie aus Alltagsbildern Fälschungen werden, was das Recht sagt und welche Fragen Sie sich vor dem Teilen stellen können.

Ein Smartphone liegt auf einem Küchentisch im Abendlicht. Aus dem Display steigen leuchtende, durchsichtige Fotokarten auf, eine davon löst sich in ein Raster aus kleinen Quadraten und Messlinien auf. Daneben liegen eine Kinderzeichnung und eine Brotdose, im Hintergrund lehnt ein Schulranzen an einem Stuhl.
Titelbild: mit KI erzeugt

Der erste Schultag, das Kind mit Schultüte vor der Haustür. Das Foto geht an die Großeltern, in den Familienchat, vielleicht auch in den Status. Ein schöner Moment und völlig normal. Ich möchte niemandem ein schlechtes Gewissen machen, der solche Bilder schon geteilt hat. Aber es lohnt sich zu verstehen, was sich in den letzten Jahren verändert hat: Für KI-Programme ist so ein Foto nicht nur eine Erinnerung. Es ist Rohmaterial.

Die Initiative klicksafe hat ihre Themenwoche für Eltern in diesem Sommer deshalb #KinderSindKeinContent (öffnet neuen Tab) genannt. In ihrem Faltblatt für Eltern (öffnet neuen Tab) steht der Satz, um den es hier geht: „Mit KI-Tools ist es sehr leicht, Bilder, Videos oder Stimmen zu fälschen, die jedoch täuschend echt wirken.“ Was heißt das genau?

Was eine KI in einem Gesicht sieht

Wir sehen auf einem Foto ein Kind. Ein Computerprogramm sieht Maße: die Form des Gesichts, die Augenfarbe, den Abstand von Mund zu Nase. Fachleute nennen solche Merkmale biometrische Daten. Aus ihnen folgen zwei Dinge.

Erstens lässt sich ein Gesicht wiederfinden. Es gibt Suchmaschinen, die nicht nach Wörtern suchen, sondern nach Gesichtern. Der Datenschutzbeauftragte von Baden-Württemberg hat 2021 ein Verfahren gegen einen solchen Dienst (öffnet neuen Tab) eröffnet und beschrieben, wie er funktioniert: Man lädt das Foto einer Person hoch und bekommt angezeigt, wo im Netz dieses Gesicht noch zu finden ist. Ein einzelnes Bild kann so zum Suchbegriff für alle anderen werden.

Zweitens lässt sich ein Gesicht in neue Bilder setzen. Programme für sogenannte Deepfakes, also mit KI gefälschte Bilder und Videos, lernen aus vorhandenen Fotos, wie eine Person aussieht, und erzeugen daraus Szenen, die es nie gab. Wie wenig Material dafür nötig ist, sagt der Sicherheitsfachmann Yves Kraft von der Schweizer Firma Oneconsult in der Netzwoche (öffnet neuen Tab): „Für einfache Bild-Deepfakes können schon 5 bis 20 hochauflösende Fotos ausreichen“, wenn darauf verschiedene Blickwinkel und Gesichtsausdrücke zu sehen sind. Das klicksafe-Faltblatt geht weiter und warnt, dass schon ein einziges Bild reichen kann, um die Identität eines Kindes zu missbrauchen. Der Bundesrat fasst es in der Begründung seines Gesetzentwurfs gegen Deepfakes (öffnet neuen Tab) knapp zusammen: „Es genügen unverfängliche Bildaufnahmen und entsprechende Software zur Verarbeitung.“

Mit Stimmen geht es ähnlich. Wie aus einer kurzen Sprachnachricht ein Stimmklon wird, habe ich am Freitag erklärt. Videos enthalten beides, Gesicht und Stimme.

Wofür gefälschte Bilder benutzt werden

Das klicksafe-Faltblatt nennt drei Beispiele: sexualisierte Darstellungen, Cybermobbing und sexuelle Belästigung im Netz. Wie groß das erste Problem inzwischen ist, zeigt eine Studie von UNICEF, der Kinderschutzorganisation ECPAT und INTERPOL in elf Ländern. Demnach wurden die Bilder von mindestens 1,2 Millionen Kindern im vergangenen Jahr zu sexuell eindeutigen Deepfakes manipuliert, berichtet UNICEF Deutschland (öffnet neuen Tab). In einigen dieser Länder war das im Schnitt ein Kind pro Schulklasse (öffnet neuen Tab). Welche Länder untersucht wurden, nennt UNICEF nicht. Auf Deutschland übertragen lassen sich die Zahlen deshalb nicht. Sie zeigen aber, dass es sich nicht um Einzelfälle handelt.

Für die Einordnung sind mir zwei Punkte wichtig. Die Täter brauchen dafür keine freizügigen Fotos, ein ganz normales Bild aus dem Alltag reicht. Und wer ein Foto geteilt hat, ist nicht schuld an dem, was andere daraus machen. Es geht nicht um Schuld, sondern darum, wie viel Material frei herumliegt.

Neben dem Gesicht verrät ein Foto oft mehr, als man denkt. Im Hintergrund steht das Schild der Grundschule, auf dem Trikot der Name des Vereins. Und beim Hochladen wandern oft unsichtbare Zusatzdaten mit, etwa Datum, Uhrzeit und Standort der Aufnahme. Fremde können daraus ablesen, wo sich ein Kind regelmäßig aufhält, warnt klicksafe.

Was das Recht sagt

Die Grundregel steht im Kunsturhebergesetz: „Bildnisse dürfen nur mit Einwilligung des Abgebildeten verbreitet oder öffentlich zur Schau gestellt werden.“ Fachleute sprechen vom Recht am eigenen Bild (öffnet neuen Tab). Auch Kinder haben dieses Recht, betont klicksafe.

Bei Kindern wird es kompliziert. Nach Darstellung des Digitalverbands Bitkom müssen alle Erziehungsberechtigten einwilligen (öffnet neuen Tab), also in der Regel beide Eltern. Ab etwa 14 Jahren gilt ein Kind als einsichtig genug, um selbst mitzuentscheiden. Das ist aber nur ein Richtwert, keine feste Grenze. klicksafe nennt eine strengere Faustregel: ab sieben Jahren braucht es zusätzlich die Zustimmung des Kindes. Und bei einem Fachgespräch der Kinderkommission des Bundestags sagte ein Rechtsanwalt, dass es keine klaren rechtlichen Vorgaben (öffnet neuen Tab) gibt, wann Kinderfotos veröffentlicht werden dürfen.

Falls Sie hier unsicher sind, sind Sie in guter Gesellschaft. In einer Bitkom-Umfrage von 2024 sagten nur 26 Prozent, sie wüssten, wann man Kinderfotos in sozialen Netzwerken teilen darf. Beim Teilen über Messenger waren es 7 Prozent.

Was Sie heute tun können

Sie müssen nichts in Panik löschen. Die folgenden Fragen helfen beim nächsten Foto, die meisten stammen aus der Checkliste von klicksafe.

  1. Ist das Gesicht zu erkennen? Fotos von hinten oder von oben, Hände, Füße oder eine Bastelei erzählen den Moment oft genauso gut.
  2. Verrät das Bild, wo Ihr Kind ist? Achten Sie auf Schulnamen, Vereinslogos und erkennbare Orte im Hintergrund. Nennen Sie keine vollen Namen.
  3. Ist der Standort aus? Schalten Sie in den Einstellungen von Smartphone, Tablet oder Computer ab, dass Fotos Standortdaten mitsenden.
  4. Wer kann es sehen? Stellen Sie Profile auf „privat“ und teilen Sie Familienfotos in einem kleinen, festen Kreis. Denken Sie daran, dass jeder in diesem Kreis einen Screenshot machen kann.
  5. Haben Sie Ihr Kind gefragt? Beziehen Sie es altersgerecht in die Entscheidung ein. Ein „Nein“ gilt.
  6. Klassenchat und Verein mitdenken. Fotos Ihres Kindes teilen auch Großeltern, andere Eltern oder der Sportverein. klicksafe rät, mit Familie und Freunden direkt darüber zu sprechen. Für Fotos vom Kita- oder Schulfest braucht es laut Bitkom ebenfalls die Einwilligung aller Erziehungsberechtigten, auch wenn viele Kinder zu sehen sind.

Am 19. November bin ich beim Medienelterntag in Oberding mit dem Workshop „Wie KI unsere Kinder beeinflusst“. Wenn Sie für Ihre Schule oder Ihren Elternbeirat einen solchen Abend planen, schreiben Sie mir: mail@nico-kuechler.de.

Mehr zu Eltern & Schule

Alle Artikel zu Eltern & Schule →