Elternguide Logo

Deep Fakes – täuschend echte Fälschungen

Das Internet ist voll mit Fotos und Videos. Wenn es Bilder zu einem Text gibt, hält man das oft für einen Beweis, dass es sich um eine wahre Meldung handelt. Leider können aber auch Fotos und Videos täuschen oder sogar gefälscht sein. Mit Deep Fakes sind genau solche Fälschungen gemeint. Sie führen dazu, dass sich Falschnachrichten noch besser verbreiten lassen, weil sie sehr überzeugend wirken.

Wie funktionieren Deep Fakes?

Durch künstliche Intelligenz, also sehr schlaue Computerprogramme, können Ton- oder Videoaufnahmen verfälscht oder komplett neu erstellt werden. Entwickler von Deep Fakes können einer Person zum Beispiel jede beliebige Aussage in den Mund legen oder sie Dinge tun lassen, die sie in echt nicht getan hat. Die Software analysiert dafür Aufnahmen von einer Person und „lernt“ deren Mimik und Gestik. Danach können beliebige Sätze eingesprochen und die Aufnahme so manipuliert werden, dass es aussieht, als hätte die Person es selbst gesagt. 

Mittlerweile kann diese Software kostenlos aus dem Netz heruntergeladen werden. Es gibt sogar relativ einfach zu bedienende Apps, sodass fast jeder Deep Fakes erstellen und verbreiten kann.

Was ist so gefährlich an Deep Fakes?

Fake-Videos sind gefährlich, weil sie so überzeugend wirken. Informationen in Textform werden von Menschen kritischer betrachtet, als Informationen, die mit Fotos oder Videos scheinbar bewiesen werden. Dass sich Fotos fälschen lassen, wissen viele, aber von Videos ist das noch nicht so bekannt. Gerade bei Kindern und jüngeren Jugendlichen ist die Gefahr groß, dass sie auf diese Täuschung hereinfallen, weil ihre Medienkompetenz noch nicht sehr ausgeprägt ist.

Viele Deep Fakes werden zum Spaß erstellt, etwa um bekannte Filmszenen zu verändern und das Publikum zu unterhalten. Es kommt aber auch immer häufiger vor, dass die Fälschungen mit böser Absicht produziert werden: Fake-News, die zur Beeinflussung politischer Meinungen verbreitet werden, werden dadurch glaubwürdiger und auch gefährlicher. Gefälschte Video- und Tonaufnahmen können auch benutzt werden, um Betrug zu begehen, indem mit falscher Identität Geldüberweisungen veranlasst werden. Das Ziel eines Deep Fakes ist meistens, einer einzelnen Person zu schaden. Neben Politikern und Prominenten werden so auch immer wieder Privatpersonen zum Opfer.

Welche Bedeutung haben Deep Fakes für Jugendliche?

Wenn Jugendliche auf Deep Fakes reinfallen, weil sie sie nicht als Fälschung erkennen, ist das in den meisten Fällen harmlos. Wird der Trick im Nachhinein aufgeklärt, wie z. B. in einem Video eines berühmten deutschen YouTubers, kann das sogar eine lehrreiche Erfahrung sein.

Problematisch wird es, wenn sich Jugendliche durch Deep Fakes dazu manipulieren lassen, bestimmte Informationen preiszugeben oder sich in unpassende oder gefährliche Situationen zu begeben.

Es kann auch vorkommen, dass Jugendliche selbst ins Visier geraten und ein Deep Fake erstellt wird, der sie bloßstellt. Das kann für die Betroffenen eine sehr peinliche und traumatische Erfahrung sein.

Neue technische Möglichkeiten sind für Jugendliche auch immer anziehend. Es kann sein, dass Ihr Kind selbst versucht, Deep Fakes zu erstellen. Bisher gibt es keine konkreten Vorschriften zu Deep Fakes, trotzdem können sie juristisch problematisch sein. Es besteht z. B. die Gefahr einer Urheberrechtsverletzung durch die Verwendung geschützter Videoaufnahmen. Videos können auch gegen das Persönlichkeitsrecht verstoßen, wenn sie beleidigend oder verleumderisch sind. 

Was bedeutet das für die Eltern?

Deep Fakes sind ein relativ neues Phänomen, das sich schnell weiterentwickelt. Auch wenn es nicht immer leicht ist, die technischen Details zu verstehen, ist es wichtig, dass Sie mit Ihrem Kind über diese Themen reden. Hier ein paar Tipps, welche Punkte Sie dabei ansprechen können:

  • Vertrauen: Falls Ihr Kind selbst Opfer eines Deep Fakes wird, ist es wichtig, dass Sie das erfahren. Wenn Sie im Gespräch über seinen Medienumgang sind, können Sie Ihr Kind gegebenenfalls unterstützen.
  •  Respekt vor anderen: Möchte Ihr Kind sich selbst eine Deep Fake-App herunterladen, besprechen Sie gemeinsam, wo die Grenzen liegen, damit Ihr Kind keiner anderen Person Schaden zufügt oder sich strafbar macht.
  • Kritischer Umgang mit Videos: Zeigen Sie Ihrem Kind, wie es überprüfen kann, ob es sich bei einem Video um einen Deep Fake handelt. Hilfestellung dabei bieten z.B.

“logo!” Die Kindernachrichten des ZDF erklären, wie man Deep Fakes erkennen kann. 

“Reporter” ein YouTube-Kanal der öffentlich-rechtlichen Fernsehanstalten, schaut sich genauer an, wie Deep Fakes erstellt werden.

“Deutschlandfunk Nova” das junge Informationsprogramm von Deutschlandfunk erklärt jugendgerecht, wie man manipulierte Videos erkennt.

Verschwörungsmythen im Netz

Verschwörungstheorien gab es schon immer. Besonders bei bedeutenden oder sehr schlimmen Ereignissen bieten sie einfache Erklärungen für komplizierte Zusammenhänge. Meistens ist die Botschaft, dass eine geheime Gruppe von Verschworenen angeblich die Geschicke der Welt lenkt. Diese Menschen sind dann Schuld an diesen Ereignissen. Solche Erzählungen werden vor allem im Internet und über soziale Netzwerke verbreitet. Wenn Ihr Kind anfängt, sich für das Weltgeschehen zu interessieren – meist im Jugendalter – und sich zunehmend selbstständig im Internet bewegt, wird es früher oder später auch mit Verschwörungsmythen in Berührung kommen. Das kann über das Video eines Internetstars, einen Post auf Facebook oder einen Kettenbrief bei WhatsApp geschehen.

Wie funktioniert eine Verschwörungstheorie?

Verschwörungserzählungen und Falschnachrichten sind sich ähnlich, weil sie Informationen enthalten, die nicht der Wahrheit entsprechen. Verschwörungstheorien sind aber komplexer. Sie gehen davon aus, dass alles – gute genauso wie schlechte Ereignisse – geplant ist, um ein bestimmtes Ziel zu erreichen. Nichts ist, wie es scheint und die Wahrheit wird bewusst geheim gehalten. 

Was finden Jugendliche interessant an Verschwörungsmythen?

Kriege, Attentate oder der Ausbruch einer weltweiten Pandemie sind schwer zu begreifen – für Kinder und Jugendliche genauso wie für Erwachsene. Jugendliche beginnen gerade damit, ihre eigene Identität und ihren Platz in der Welt zu finden. Sie wissen noch nicht genau, wer sie eigentlich sein wollen und suchen Orientierung. Verschwörungstheorien erfüllen wichtige Bedürfnisse:

  • Vereinfachung: Sie bieten einfache Erklärungen für komplizierte Zusammenhänge.
  • Entlastung: Wenn alles geplant wurde, können auch die Schuldigen ausgemacht und alles wieder unter Kontrolle gebracht werden.
  • Wunsch nach Bedeutung: Mehr wissen als die anderen. Einem Geheimnis auf der Spur zu sein, verleiht Bedeutung.
  • Identifikation und Zusammenhalt: Verschwörungserzählungen funktionieren meistens nach dem  Prinzip “Gut gegen Böse”. Die Abgrenzung nach außen sorgt für ein Gefühl von Verbundenheit innerhalb der Gruppe.

Sind Verschwörungstheorien im Netz gefährlich?

Ihr Kind hat im Internet etwas über eine Verschwörungstheorie gelesen oder selbst danach gesucht? Nun kommt es darauf an, wie es mit den Informationen umgeht. Verschwörungserzählungen können unterhaltsam sein und werden deshalb auch immer wieder in verschiedenen Medien aufgegriffen: das Geheimnis des Bermudadreiecks, Aliens, die unter uns leben – solche Gedankenexperimente können interessant für Kinder und Jugendliche sein und ihre Kreativität wecken. 

Themen, die näher an unserer Lebenswelt sind, sollten kritischer betrachtet werden. Verschwörungsmythen säen vor allem Zweifel und machen Jugendliche empfänglich für radikale und extremistische Ideen. Sprechen Sie mit Ihrem Kind über solche Theorien und helfen Sie ihm, diese einzuordnen und zu hinterfragen.

Tipps im Umgang mit Verschwörungstheorien

Nehmen Sie Ihr Kind ernst, auch wenn es beginnt, sich intensiv mit Verschwörungserzählungen auseinanderzusetzen, Teile davon als Wahrheit akzeptiert oder sich in Communities mit Anhängern austauscht.  Wenn Sie sein Interesse mit Aussagen wie  „Das sind doch alles nur verrückte Verschwörungstheorien“ abtun, könnte es passieren, dass Ihr Kind sich von Ihnen abgrenzt und verstärkt im Netz nach Gleichgesinnten sucht. Anstatt Ihr Kind mit Gegenargumenten zu konfrontieren, sollten sie gemeinsam kritisch hinterfragen: Wer sagt was? Gibt es Dinge, die sich widersprechen? Sind die Quellen vertrauenswürdig? Gibt es ähnliche Muster bei anderen Verschwörungsmythen? 

Ein kritischer Umgang mit Informationen ist das wichtigste Werkzeug gegen Verschwörungstheorien. Zeigen Sie Ihrem Kind, wie es den Wahrheitsgehalt einer Quelle überprüfen kann und bieten Sie einen Zugang zu seriösen und altersgerechten Nachrichtenquellen. 

Dabei helfen können:

Nachrichten und Informationen, die extra für Kinder gemacht sind, wie

Websites, auf denen man den Wahrheitsgehalt von Nachrichten prüfen kann:

Online-Games – ein Ort für Extremismus?

Rechtsextreme und Islamisten suchen verstärkt im Internet nach Anhängern – auch in der Gaming-Community. Ihr Ziel ist es, Spielende von ihren Ansichten zu überzeugen. Das passiert in den Spielen selbst, aber auch im Chat und in den Foren von Steam, Twitch oder Discord. Manche Jugendliche sind empfänglich für solche extremistischen Ansprachen und sollten dafür gewappnet sein.

Warum nutzen Extremisten Gaming-Plattformen?

Videospiele sind eine weit verbreitete Freizeitbeschäftigung. Gerade junge Menschen spielen gerne online. Jugendliche suchen nach Orientierung, probieren sich in verschiedenen Rollen aus. Das hilft ihnen, eine eigene Identität auszubilden. Die Eltern sind nicht mehr unbedingt die ersten Ansprechpartner. Manche Jugendliche sind einsam und suchen online nach Anschluss. Das macht einige von ihnen anfällig für extremistische Ansprachen. Vor allem Rechtsextreme und Islamisten versuchen in Games gezielt junge Anhänger für ihre menschenverachtenden Ideologien zu finden.

Die sehr direkte und harte Sprache, die in vielen Gaming-Chats und -Foren herrscht, enthält teilweise auch rassistische, homophobe und sexistische Elemente. Diese Kommunikation kann zur Verbreitung von Hassnachrichten und Cybermobbing führen. Manche rechtsextreme Gruppierungen, wie die “Identitäre Bewegung”, nutzen Gaming-Communities, um ihre Botschaften zu verbreiten.  

Wie sieht Extremismus in Online-Games aus?

Extremisten spielen meist unauffällig in beliebten Spielen mit, während sie im Chat einzelne rassistische oder ideologische Aussagen streuen. So testen sie, ob jemand darauf reagiert. Ist das der Fall, dann schicken sie diesen Links oder Einladungen über Gruppen in sozialen Netzwerken, Messenger-Apps oder Foren. In diesen meist geschlossenen Gruppen werden extremistische Inhalte geteilt und so neue Anhänger gewonnen. Teilweise versuchen Extremisten in privaten Chats in Spielen oder Foren direkt Kontakt mit Jugendlichen aufzunehmen. Das ist besonders gefährlich, wenn Jugendliche einsam und über den Kontakt, vor allem zu älteren und erfahrenen Spielern, dankbar sind.

Außerdem nutzen Extremisten neben dem direkten Zugang zu Gamern in Spielen oder Foren Elemente aus der Gaming-Community für ihre Propaganda. So wurde beispielsweise der beliebte Ego-Shooter Call of Duty, der Kriegshandlungen realistisch darstellt, von der Terrororganisation IS zur Rekrutierung von Gamern genutzt. Sie warben damit, dass Jugendliche beim IS das Spiel zur Realität machen könnten. So könnten Gamer nicht, wie nach dem Tod im Spiel, nur dort weiterspielen, sondern im Paradies. 

Was machen Plattformen wie Steam oder Discord dagegen?

Es ist wichtig zu wissen, dass viele extremistische Inhalte gegen geltende Gesetze verstoßen und jugendgefährdend oder sogar strafbar sind. Wie überall im Internet gilt auch im Zusammenhang mit Games, dass Plattformbetreiber oder Diensteanbieter oft erst reagieren, wenn ihnen solche Inhalte gemeldet werden. 

In den großen sozialen Netzwerken wie Facebook oder YouTube wird Propaganda von Extremisten meist direkt von den Betreibern gelöscht. Bei kleineren Diensten, wie Steam, Twitch oder Discord, die vielfach von der Gaming-Community genutzt werden, ist das oft nicht so einfach. Dadurch kommt es immer wieder zur Verbreitung extremistischer Inhalte. 

Es gibt zwar vereinzelt Mechanismen in Spielen, auf Gaming-Plattformen und -Foren, die es Extremisten schwer machen sollen, wie z. B. Wortfilter oder die Möglichkeit problematische Nutzende zu melden. Doch diese Mechanismen können leicht umgangen werden und führen selten zur Verhinderung extremistischer Ansprachen.

Was können Sie tun, um Ihr Kind zu schützen?

Das Wichtigste ist, dass Sie mit Ihrem Kind sprechen und sich für die Spielewelt interessieren, in der es sich bewegt. Fragen Sie Ihr Kind, was es in Online-Games erlebt und mit wem es sich austauscht. Seien Sie offen und hören Sie zu, wenn Ihr Kind Ihnen davon erzählt. Machen Sie Ihr Kind darauf aufmerksam, dass es auch in Spielen und auf Gaming-Plattformen Menschen gibt, die schlechte Absichten haben und sie zu schlimmen Dingen überreden wollen.

Sollten Sie bei Ihrem Kind Anzeichen für den Kontakt mit extremistischen Ansprachen sehen, sprechen Sie mit ihm und suchen Sie sich Hilfe. Eine Übersicht über Anlaufstellen gibt es von der Bundeszentrale für politische Bildung. In besonders schweren Fällen sollten Sie sich an die Polizei wenden. Das geht auch im Internet über die Onlinewachen.

Wenn Ihnen extremistische Inhalte mit volksverhetzenden oder kriegsverherrlichenden Aussagen in Foren oder sozialen Netzwerken auffallen, können Sie diese auch bei der Internetbeschwerdestelle melden.

Extremismus im Netz

Jugendliche sind dabei, eine eigene Identität zu entwickeln. Dazu gehört, sich eine Meinung zu allem möglichen zu bilden. Sie stellen sich Fragen, auf die es nicht immer einfache Antworten gibt. Das kann sehr verwirrend sein. Manche Jugendliche sehnen sich deshalb besonders nach Klarheit. Einfache Antworten, klare Strukturen und Regeln – genau das wollen ihnen Extremisten mit ihren Vorstellungen bieten, die nur schwarz oder weiß sind, aber keine Grautöne kennen.

Extremisten nutzen beliebte Onlinekanäle, um junge Menschen zu erreichen

Ihr Weltbild vermitteln Extremisten meistens durch vereinfachte Inhalte und kurze Aussagen. Sie nutzen aktuelle Netztrends, wie unterhaltsame Videos und Bilder, um vor allem junge Menschen mit ihren extremen politischen Aussagen zu erreichen. Dazu gehören z. B. Memes, in denen eine Botschaft einprägsam über ein angeblich lustiges Bild verbreitet wird. Am liebsten werden solche Inhalte über beliebte soziale Netzwerke wie YouTube, WhatsApp oder Facebook geteilt. Oft werden auch Falschmeldungen dazu genutzt, Menschen zu verunsichern und sie politisch in eine Richtung zu drängen. Bestimmte Inhalte sind aber, vor allem für junge Menschen, auf den ersten Blick nicht unbedingt als extremistisch zu erkennen.

Rechtsextremisten und Islamisten nutzen ähnliche Strategien

Besonders aktiv im Internet sind Rechtsextremisten und Islamisten. Wenn ihre Propaganda klar erkennbar ist, kann sie von den Betreibern der Plattformen meistens schnell gelöscht werden. Deshalb weichen die Extremisten auf weniger bekannte und weniger stark kontrollierte Online-Angebote wie etwa die russische Plattform vk.com aus. Ein Großteil der Kommunikation findet auch gar nicht öffentlich sichtbar statt, sondern in geschlossenen Gruppen, z. B. bei Telegram oder Facebook.

Sowohl Rechtsextremisten als auch Islamisten sehen sich gerne in der Opferrolle. Sie geben vor, vom eigenen oder anderen Staaten unterdrückt zu werden. Rechtsextremisten in Deutschland sprechen oft von der sogenannten „Lügenpresse“. Sie werfen den Medien vor, von der Regierung gesteuert zu sein, weshalb rechtsextreme Meinungen keine Stimme hätten. Beide Gruppen äußern auch Kritik am Kapitalismus. Das ist besonders gefährlich, da Aspekte der Kritik durchaus berechtigt sind und auch von vielen jungen Menschen geteilt werden. Das nutzen Extremisten, um sie für ihre Sache zu gewinnen. In jüngerer Zeit werden aus beiden Lagern vermehrt wieder antisemitische (also gegen Juden gerichtete) Verschwörungstheorien verbreitet. Diese Verschwörungstheorien tauchen mittlerweile auch unter bei Jugendlichen beliebten Musikern auf – z. B. in einigen Liedern des deutschen Rappers Kollegah.

Was können Sie als Eltern tun?

Deshalb ist es besonders wichtig, dass Sie mit Ihren Kindern darüber sprechen, was sie beschäftigt. Welche Themen werden im Freundeskreis besonders heiß diskutiert? Welche Bilder und Videos schauen sie sich an und teilen sie mit anderen? Thematisieren Sie auch die Ziele, die bestimmte Gruppierungen verfolgen, wenn sie Inhalte mit extremen politischen Aussagen ins Netz stellen.

Machen Sie Ihr Kind darauf aufmerksam, dass jeder seine Meinung im Netz kundtun kann und das das leider auch Menschen mit schlechten Absichten tun. Deshalb darf man nicht allen Inhalten einfach trauen, sondern muss sie hinterfragen. Auf der Seite knowyourmeme.com lassen sich bekannte Memes inklusive ihrer Geschichte nachschlagen (leider ist die Seite nur in englischer Sprache verfügbar). Mimikama.at ist eine gute Anlaufstelle, um Meldungen aus Sozialen Netzwerken wie Facebook auf ihren Wahrheitsgehalt zu prüfen.

Sollten Sie oder Ihr Kind auf offensichtlich extremistische Inhalte stoßen, können Sie diese direkt bei den Plattformbetreibern melden. Bei großen Angeboten wie Facebook und YouTube ist das mit wenigen Klicks erledigt. Sie können ganz allgemein auch die Internetbeschwerdestelle nutzen. In besonders schweren Fällen kann es sinnvoll sein, sich direkt an die Polizei zu wenden. In den meisten Bundesländern geht das mittlerweile online über eine sogenannte Internetwache.

Projektpartner
Unterstützer