Wenn die Stimme am Telefon nicht Ihr Kind ist: Wie KI Stimmen klont

„Mama, kannst du mich abholen?“ Eine Sprachnachricht im Familienchat, zehn Sekunden lang, zwischen Schulschluss und Abendessen. Nichts Besonderes. Aber genau solche Aufnahmen sind heute das Material, aus dem eine Software die Stimme Ihres Kindes nachbauen kann.

Der Branchenverband Bitkom beginnt seine Pressemitteilung vom Oktober mit dem Satz „Die gefälschte Stimme der Tochter in einer Notlage am Telefon“. Dahinter steht eine Befragung: Neun Prozent der Internetnutzerinnen und -nutzer in Deutschland sind schon einmal durch KI-erzeugte Videos, Fotos oder Sprachnachrichten getäuscht worden (öffnet neuen Tab), ein Jahr zuvor waren es drei Prozent. Ich möchte in diesem Artikel nicht warnen, sondern erklären: Wie entsteht so ein Stimmklon, warum hören wir den Unterschied nicht, und was hilft dann wirklich?

Wie eine Stimme nachgebaut wird

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beschreibt zwei Verfahren (öffnet neuen Tab), die bei gefälschten Stimmen die Hauptrolle spielen. Beim ersten, Text-to-Speech, tippt jemand einen Satz ein, und die Software spricht ihn in der fremden Stimme. Beim zweiten, Voice Conversion, spricht der Betrüger selbst, und die Software tauscht nur den Klang aus, wie eine Maske für die Stimme.

In beiden Fällen lernt das Programm aus einer Aufnahme, was diese eine Stimme ausmacht: die Klangfarbe, die Tonhöhe, die Sprechmelodie, kleine Eigenheiten wie ein gedehntes „also“. Wie viel Aufnahme es dafür braucht, hat sich in wenigen Jahren stark verändert. Laut BSI waren für das Training früher mehrere Stunden Audiomaterial nötig, neuere Verfahren kommen mit wenigen Minuten aus, und Forschungsansätze brauchen „lediglich wenige Sekunden Audiomaterial der Zielperson“, bisher noch mit Abstrichen bei der Qualität.

Wie wenige, zeigt ein Forschungsmodell von Microsoft aus dem Jahr 2023. Es erzeugt eine persönliche Stimme aus einer nur drei Sekunden langen Aufnahme (öffnet neuen Tab) eines Sprechers, den es nie zuvor gehört hat. Der Trick dahinter: Das Modell wurde vorher mit 60.000 Stunden Sprache trainiert. Es weiß also längst, wie Menschen sprechen. Die drei Sekunden sagen ihm nur noch, wie genau diese eine Person klingt. Für eine Studie der Queen Mary University of London im Jahr 2025 reichten den Forschenden rund vier Minuten Aufnahme pro Person, um Stimmklone zu erzeugen, die Hörer nicht mehr von echten Stimmen unterscheiden konnten. Dazu gleich mehr.

Woher die Aufnahme kommt

Niemand muss dafür in ein Tonstudio. Eine Sprachnachricht, ein Video vom Schulfest, ein Clip in einem sozialen Netzwerk, die eigene Mailbox-Ansage: Jede dieser Aufnahmen enthält genug Stimme. Die Polizeiliche Kriminalprävention der Länder und des Bundes formuliert es nüchtern: „Moderne KI-Technik ermöglicht täuschend echte Stimmen oder Videos (öffnet neuen Tab).“ Als mögliche Szenarien nennt sie ausdrücklich glaubwürdige Enkeltrick- und Schockanrufe (öffnet neuen Tab).

Das gilt für Kinderstimmen genauso wie für Erwachsene. Und es gilt in beide Richtungen: Die Stimme der Tochter beim Anruf an die Großeltern, aber auch die Stimme der Mutter in einer Sprachnachricht an das Kind.

Warum Ihr Ohr nicht reicht

Die naheliegende Hoffnung lautet: Meine eigene Tochter erkenne ich doch. Die Forschung dämpft sie. Ein Team des University College London ließ 2023 über 500 Personen echte und künstliche Sprache anhören. Die Teilnehmenden wussten, dass Fälschungen dabei sind, und erkannten sie trotzdem nur in 73 Prozent der Fälle (öffnet neuen Tab). Die Londoner Studie von 2025 ging einen Schritt weiter und verglich Klone echter Stimmen mit den Originalen. Die Klone wurden in 58 Prozent der Fälle für menschlich gehalten (öffnet neuen Tab), die echten Stimmen in 62 Prozent. Der Unterschied ist so klein, dass er im Alltag keine Rolle spielt.

Dazu kommt die Situation. Wer einen Anruf bekommt, in dem das eigene Kind weint und von einem Unfall erzählt, hört nicht analytisch hin. Genau darauf bauen die Täter. Das BSI nennt deshalb als zentrale Maßnahme gegen solche Angriffe nicht ein technisches Werkzeug, sondern die „Schulung potentiell betroffener Personen“. Übersetzt: Wer weiß, dass es Stimmklone gibt, fällt seltener darauf herein. Sie haben diesen Schritt mit dem Lesen dieses Artikels schon gemacht.

Wie groß das Problem ist

Ein Blick in die Polizeiliche Kriminalstatistik hilft, das Ganze einzuordnen. Für 2025 weist das Bundeskriminalamt 4.798 Fälle von Enkeltrick und Schockanrufen (öffnet neuen Tab) aus, im Jahr davor waren es 6.656. Die Masche ist also nicht neu und auch nicht explodiert. Ob eine KI-Stimme im Spiel war, steht in der Statistik nicht.

Das ist die eigentliche Botschaft: Der Kern des Betrugs ist alt. Zeitdruck, Geld, Geheimhaltung. Die geklonte Stimme macht ihn nur glaubwürdiger. Und die neue Kennzeichnungspflicht der EU für KI-Inhalte, die ich am Montag erklärt habe, hilft hier nicht weiter. Wer betrügen will, kennzeichnet nicht.

Was Sie heute tun können

1. Ein Codewort vereinbaren. Die Polizeiliche Kriminalprävention rät: „Vereinbare in der Familie ein ‚Codewort‘ für echte Notfälle, das eine KI nicht kennen kann.“ Beziehen Sie die Großeltern ein, denn sie bekommen solche Anrufe am häufigsten.
2. Auflegen und selbst zurückrufen. Ebenfalls aus dem Rat der Polizei: im Zweifel die Verbindung trennen und die Person über ihre normale, gespeicherte Nummer zurückrufen. Nicht die Rückruftaste, sondern den Eintrag im eigenen Telefon. Oder eine persönliche Frage stellen, die nur diese Person beantworten kann.
3. Die Regel mit Ihrem Kind üben. Spielen Sie es einmal durch, mit vertauschten Rollen: Sie rufen an, Ihr Kind fragt nach dem Codewort. So wird aus der Warnung ein Spiel, und Ihr Kind weiß auch, was es tut, wenn eines Tages „Mama“ anruft und um einen Code oder Geld bittet.
4. Sparsam mit Aufnahmen sein. Überlegen Sie gemeinsam, welche Sprachnachrichten und Videos öffentlich sein müssen. Eine Sprachnachricht im geschlossenen Familienchat ist etwas anderes als ein Clip, den jeder herunterladen kann.
5. Hilfe kennen. Bei einem Anruf mit Geldforderung ist die Polizei unter 110 die richtige Nummer, auch wenn Sie nicht gezahlt haben. Kinder und Jugendliche erreichen die Nummer gegen Kummer (öffnet neuen Tab) unter 116 111 (montags bis samstags 14 bis 20 Uhr), Eltern das Elterntelefon unter 0800 111 0 550 (montags bis freitags ab 9 Uhr).

Drei typische Situationen, der Schockanruf, das zu passende Profil und das Bild, das nie aufgenommen wurde, habe ich für den Medienelterntag in einem kurzen Vorab-Text zusammengefasst. Am 19. November bin ich beim Medienelterntag in Oberding mit dem Workshop „Wie KI unsere Kinder beeinflusst“. Wenn Sie für Ihre Schule oder Ihren Elternbeirat einen solchen Abend planen, schreiben Sie mir: mail@nico-kuechler.de.