Elternguide Logo

Deep Fakes – täuschend echte Fälschungen

Das Internet ist voll mit Fotos und Videos. Wenn es Bilder zu einem Text gibt, hält man das oft für einen Beweis, dass es sich um eine wahre Meldung handelt. Leider können aber auch Fotos und Videos täuschen oder sogar gefälscht sein. Mit Deep Fakes sind genau solche Fälschungen gemeint. Sie führen dazu, dass sich Falschnachrichten noch besser verbreiten lassen, weil sie sehr überzeugend wirken.

Wie funktionieren Deep Fakes?

Durch künstliche Intelligenz, also sehr schlaue Computerprogramme, können Ton- oder Videoaufnahmen verfälscht oder komplett neu erstellt werden. Entwickler von Deep Fakes können einer Person zum Beispiel jede beliebige Aussage in den Mund legen oder sie Dinge tun lassen, die sie in echt nicht getan hat. Die Software analysiert dafür Aufnahmen von einer Person und „lernt“ deren Mimik und Gestik. Danach können beliebige Sätze eingesprochen und die Aufnahme so manipuliert werden, dass es aussieht, als hätte die Person es selbst gesagt. 

Mittlerweile kann diese Software kostenlos aus dem Netz heruntergeladen werden. Es gibt sogar relativ einfach zu bedienende Apps, sodass fast jeder Deep Fakes erstellen und verbreiten kann.

Was ist so gefährlich an Deep Fakes?

Fake-Videos sind gefährlich, weil sie so überzeugend wirken. Informationen in Textform werden von Menschen kritischer betrachtet, als Informationen, die mit Fotos oder Videos scheinbar bewiesen werden. Dass sich Fotos fälschen lassen, wissen viele, aber von Videos ist das noch nicht so bekannt. Gerade bei Kindern und jüngeren Jugendlichen ist die Gefahr groß, dass sie auf diese Täuschung hereinfallen, weil ihre Medienkompetenz noch nicht sehr ausgeprägt ist.

Viele Deep Fakes werden zum Spaß erstellt, etwa um bekannte Filmszenen zu verändern und das Publikum zu unterhalten. Es kommt aber auch immer häufiger vor, dass die Fälschungen mit böser Absicht produziert werden: Fake-News, die zur Beeinflussung politischer Meinungen verbreitet werden, werden dadurch glaubwürdiger und auch gefährlicher. Gefälschte Video- und Tonaufnahmen können auch benutzt werden, um Betrug zu begehen, indem mit falscher Identität Geldüberweisungen veranlasst werden. Das Ziel eines Deep Fakes ist meistens, einer einzelnen Person zu schaden. Neben Politikern und Prominenten werden so auch immer wieder Privatpersonen zum Opfer.

Welche Bedeutung haben Deep Fakes für Jugendliche?

Wenn Jugendliche auf Deep Fakes reinfallen, weil sie sie nicht als Fälschung erkennen, ist das in den meisten Fällen harmlos. Wird der Trick im Nachhinein aufgeklärt, wie z. B. in einem Video eines berühmten deutschen YouTubers, kann das sogar eine lehrreiche Erfahrung sein.

Problematisch wird es, wenn sich Jugendliche durch Deep Fakes dazu manipulieren lassen, bestimmte Informationen preiszugeben oder sich in unpassende oder gefährliche Situationen zu begeben.

Es kann auch vorkommen, dass Jugendliche selbst ins Visier geraten und ein Deep Fake erstellt wird, der sie bloßstellt. Das kann für die Betroffenen eine sehr peinliche und traumatische Erfahrung sein.

Neue technische Möglichkeiten sind für Jugendliche auch immer anziehend. Es kann sein, dass Ihr Kind selbst versucht, Deep Fakes zu erstellen. Bisher gibt es keine konkreten Vorschriften zu Deep Fakes, trotzdem können sie juristisch problematisch sein. Es besteht z. B. die Gefahr einer Urheberrechtsverletzung durch die Verwendung geschützter Videoaufnahmen. Videos können auch gegen das Persönlichkeitsrecht verstoßen, wenn sie beleidigend oder verleumderisch sind. 

Was bedeutet das für die Eltern?

Deep Fakes sind ein relativ neues Phänomen, das sich schnell weiterentwickelt. Auch wenn es nicht immer leicht ist, die technischen Details zu verstehen, ist es wichtig, dass Sie mit Ihrem Kind über diese Themen reden. Hier ein paar Tipps, welche Punkte Sie dabei ansprechen können:

  • Vertrauen: Falls Ihr Kind selbst Opfer eines Deep Fakes wird, ist es wichtig, dass Sie das erfahren. Wenn Sie im Gespräch über seinen Medienumgang sind, können Sie Ihr Kind gegebenenfalls unterstützen.
  •  Respekt vor anderen: Möchte Ihr Kind sich selbst eine Deep Fake-App herunterladen, besprechen Sie gemeinsam, wo die Grenzen liegen, damit Ihr Kind keiner anderen Person Schaden zufügt oder sich strafbar macht.
  • Kritischer Umgang mit Videos: Zeigen Sie Ihrem Kind, wie es überprüfen kann, ob es sich bei einem Video um einen Deep Fake handelt. Hilfestellung dabei bieten z.B.

“logo!” Die Kindernachrichten des ZDF erklären, wie man Deep Fakes erkennen kann. 

“Reporter” ein YouTube-Kanal der öffentlich-rechtlichen Fernsehanstalten, schaut sich genauer an, wie Deep Fakes erstellt werden.

“Deutschlandfunk Nova” das junge Informationsprogramm von Deutschlandfunk erklärt jugendgerecht, wie man manipulierte Videos erkennt.

Alles Fake? Falschmeldungen erkennen

„Doch Mama, das hab ich im Internet gelesen!“ – „Wenn das so viele liken, muss ja auch was dran sein…“ – „Da ist ein Foto dabei, das ist ja ein Beweis.“

Kennen Sie solche Diskussionen um Nachrichten, bei denen die Meinung darüber, ob dies tatsächlich stimmen kann oder nicht, in der Familie deutlich auseinander gehen? Im Internet und in sozialen Netzwerken begegnen uns täglich unzählige Nachrichten, Meldungen und Geschichten. Sie stammen aus den Fernsehnachrichten, der Tageszeitung, von Prominenten oder Sportvereinen, aber natürlich auch von den vielen Internetnutzern selbst. Darunter mischen sich Nachrichtenseiten und Absender, die gezielt mit Lügen oder Halbwahrheiten manipulieren möchten. Sie streuen bewusst Falschmeldungen, Gerüchte oder hasserfüllte Meldungen, die uns verunsichern sollen.

Nicht nur Kindern und Jugendlichen fällt es schwer, vertrauenswürdige Beiträge von gefälschten Meldungen, sogenannten „Fake News“, zu unterscheiden. Denn häufig sind verbreitete Falschmeldungen als seriöse Nachrichten „getarnt“ und wirken sehr echt. Das kann problematisch sein, wenn es sich um politische Beiträge mit extremistischen oder populistischen Hintergrund handelt (diese richten sich oft gegen Fremde und Geflüchtete), wenn Verschwörungstheorien verbreitet werden oder bei Inhalten, die vor allem jüngere Kinder verunsichern oder ängstigen können.

Ein anderes Problem sind Falschmeldungen, die kursieren, wenn viele Menschen sowieso unsicher sind und selbst Experten und Politiker keine Antworten auf alle Fragen haben – so z. B. in der sogenannten Coronakrise. Dann glaubt man gern noch schneller, was als Fake News verbreitet wird, weil es einem vielleicht hilft, damit umzugehen. Wenn z. B. jemand sagt, die Supermärkte haben nur noch zwei Tage geöffnet, rennen alle los und decken sich mit mehr Lebensmitteln ein als nötig. Andere gehen leer aus oder es wird zu viel gekauft, was später weggeschmissen werden muss.

Doch wie können Kinder, Jugendliche aber auch Erwachsene erkennen, ob sie einer Meldung oder einem Beitrag vertrauen können?

Wir haben Tipps zusammengestellt, mit denen Sie gemeinsam mit Ihrem Kind ins Gespräch kommen und Nachrichtenmeldungen hinterfragen können:

Angst vor Momo & Co. – Echtes Problem oder medialer Hype?

Ob Kettenbriefe oder YouTube-Videos: Momo hat vielleicht auch Ihrem Kind große Angst eingejagt. Wochenlang las man Berichte und Artikel über die gruselige Figur mit den weit aufgerissenen Augen und einem angsteinflößendem Grinsen. So wurden auch Eltern und Lehrkräfte in Panik versetzt und ein echter Momo-Hype entstand. Dazu beigetragen hat die mediale Berichterstattung.

Wer oder was ist eigentlich Momo?

Momo tauchte das erste Mal 2018 bei WhatsApp als Kettenbrief auf. Darin wurden die Leser zu verschiedenen Challenges aufgefordert und angeblich zur Selbstverletzung angestiftet. Ein Foto der gruseligen Figur, die eigentlich eine Skulptur eines japanischen Künstlers ist, löste vor allem bei jüngeren Kindern große Angst aus. Auf den Kettenbrief folgten 2019 dann angebliche WhatsApp-Accounts von Momo, welche direkt mit Kindern und Jugendlichen Kontakt aufnahmen. YouTuber stellten Videos online, in denen Sie anscheinend mit Momo chatteten und sich auf riskante Aufgaben einließen.

Wie haben die Medien darüber berichtet?

Den Anfang machte wahrscheinlich eine Lokalzeitung in England, die einen Facebook-Post einer besorgten Mutter als Anlass nahm, um über Momo zu berichten. Andere Medien griffen das Momo-Phänomen auf. Es folgten Berichte über YouTube-Videos und Kinderserien, in denen Momo plötzlich auftaucht und über den angeblichen Selbstmord-Versuch einer Schülerin, den die Gruselfigur verantwortet haben soll. Eltern, Lehrkräfte und Kinder wurden vor Momo gewarnt.

Warum ist die Berichterstattung problematisch?

Viele Berichte stellten sich im Nachhinein als unwahr oder zumindest stark übertrieben heraus. Informationen wurden kaum auf ihre Richtigkeit hin überprüft. Falschmeldungen lösten letztlich den Momo-Skandal aus.

Obwohl nie jemand direkt von Momo angeschrieben wurde, stellte die Figur plötzlich eine reale Bedrohung dar. Meldungen wurden weitergeleitet, denn man wollte auch befreundete Eltern oder Nachbarn warnen. Erwachsene fielen auf das herein, wovor sie ihre Kinder eigentlich bewahren wollen: Das Prinzip von Kettenbriefen – das unkritische Weiterleiten von Nachrichten, die nicht auf einen Wahrheitsgehalt geprüft wurden.

Die große mediale Aufmerksamkeit ermutigt auch Nachahmer: Neue Kettenbriefe werden in die Welt gesetzt, WhatsApp-Accounts mit dem Namen Momo erstellt. So bekommt das Thema eine enorm große Aufmerksamkeit und Panik entsteht. Es ist ein Teufelskreis: Immer wieder neue Ereignisse und Berichte, die nicht abbrechen fördern den Momo-Hype weiter.

Auch andere Phänomene und Challenges werden durch die Aufmerksamkeit in den Medien extrem aufgebauscht. Vielleicht haben Sie schon von der sogenannten Blue Whale Challenge gehört – ein Spiel, das Kinder und Jugendliche angeblich in den Selbstmord treibt. Die Existenz dieses Spiels wurde nie bewiesen. Durch ständige Medienberichte wurde die Challenge schließlich auch in Deutschland bekannt.

Wie können Sie als Eltern mit einer solchen Situation umgehen?

Reagieren Sie auf die Angst Ihres Kindes nicht mit Panik, sondern erklären Sie, dass solche Geschichten oft erfunden sind und dass Kettenbriefe die einzige Funktion haben, Empfänger zu ängstigen und unter Druck zu setzen. Machen Sie deutlich, dass es sich bei vielen Berichten um Falschmeldungen handelt und es keinen Grund gibt, sich zu fürchten. Denn warum sollte man vor etwas Angst haben, was es gar nicht gibt?

Erklären Sie Ihrem Kind, was Falschmeldungen sind und wie man diese erkennen kann. Mehr dazu erfahren Sie in unseren Beitrag zu Fake News.

Seien Sie immer Ansprechpartner für Ihr Kind, auch wenn es um seine Online-Erfahrungen geht! Wenn Sie mitbekommen, dass z. B. in YouTube-Videos Momo, ähnliche angstmachenden Figuren oder problematische Challenges auftauchen, melden Sie diese Inhalte – direkt an YouTube oder  an jugendschutz.net.

Egal, ob Sie von solchen Vorfällen über einen Artikel, eine Facebook-Gruppe, anderen Eltern oder Ihrem Kind erfahren: Leiten Sie die Information nicht einfach weiter! Überprüfen Sie, welche Fakten es zu dem Phänomen gibt und ob die Informationen übertrieben oder realistisch wirken. Sprechen Sie auch mit anderen Eltern darüber, ob die Nachricht stimmen kann.

Projektpartner
Unterstützer