Elternguide Logo

Deep Fakes – täuschend echte Fälschungen

Das Internet ist voll mit Fotos und Videos. Wenn es Bilder zu einem Text gibt, hält man das oft für einen Beweis, dass es sich um eine wahre Meldung handelt. Leider können aber auch Fotos und Videos täuschen oder sogar gefälscht sein. Mit Deep Fakes sind genau solche Fälschungen gemeint. Sie führen dazu, dass sich Falschnachrichten noch besser verbreiten lassen, weil sie sehr überzeugend wirken.

Wie funktionieren Deep Fakes?

Durch künstliche Intelligenz, also sehr schlaue Computerprogramme, können Ton- oder Videoaufnahmen verfälscht oder komplett neu erstellt werden. Entwickler von Deep Fakes können einer Person zum Beispiel jede beliebige Aussage in den Mund legen oder sie Dinge tun lassen, die sie in echt nicht getan hat. Die Software analysiert dafür Aufnahmen von einer Person und „lernt“ deren Mimik und Gestik. Danach können beliebige Sätze eingesprochen und die Aufnahme so manipuliert werden, dass es aussieht, als hätte die Person es selbst gesagt. 

Mittlerweile kann diese Software kostenlos aus dem Netz heruntergeladen werden. Es gibt sogar relativ einfach zu bedienende Apps, sodass fast jeder Deep Fakes erstellen und verbreiten kann.

Was ist so gefährlich an Deep Fakes?

Fake-Videos sind gefährlich, weil sie so überzeugend wirken. Informationen in Textform werden von Menschen kritischer betrachtet, als Informationen, die mit Fotos oder Videos scheinbar bewiesen werden. Dass sich Fotos fälschen lassen, wissen viele, aber von Videos ist das noch nicht so bekannt. Gerade bei Kindern und jüngeren Jugendlichen ist die Gefahr groß, dass sie auf diese Täuschung hereinfallen, weil ihre Medienkompetenz noch nicht sehr ausgeprägt ist.

Viele Deep Fakes werden zum Spaß erstellt, etwa um bekannte Filmszenen zu verändern und das Publikum zu unterhalten. Es kommt aber auch immer häufiger vor, dass die Fälschungen mit böser Absicht produziert werden: Fake-News, die zur Beeinflussung politischer Meinungen verbreitet werden, werden dadurch glaubwürdiger und auch gefährlicher. Gefälschte Video- und Tonaufnahmen können auch benutzt werden, um Betrug zu begehen, indem mit falscher Identität Geldüberweisungen veranlasst werden. Das Ziel eines Deep Fakes ist meistens, einer einzelnen Person zu schaden. Neben Politikern und Prominenten werden so auch immer wieder Privatpersonen zum Opfer.

Welche Bedeutung haben Deep Fakes für Jugendliche?

Wenn Jugendliche auf Deep Fakes reinfallen, weil sie sie nicht als Fälschung erkennen, ist das in den meisten Fällen harmlos. Wird der Trick im Nachhinein aufgeklärt, wie z. B. in einem Video eines berühmten deutschen YouTubers, kann das sogar eine lehrreiche Erfahrung sein.

Problematisch wird es, wenn sich Jugendliche durch Deep Fakes dazu manipulieren lassen, bestimmte Informationen preiszugeben oder sich in unpassende oder gefährliche Situationen zu begeben.

Es kann auch vorkommen, dass Jugendliche selbst ins Visier geraten und ein Deep Fake erstellt wird, der sie bloßstellt. Das kann für die Betroffenen eine sehr peinliche und traumatische Erfahrung sein.

Neue technische Möglichkeiten sind für Jugendliche auch immer anziehend. Es kann sein, dass Ihr Kind selbst versucht, Deep Fakes zu erstellen. Bisher gibt es keine konkreten Vorschriften zu Deep Fakes, trotzdem können sie juristisch problematisch sein. Es besteht z. B. die Gefahr einer Urheberrechtsverletzung durch die Verwendung geschützter Videoaufnahmen. Videos können auch gegen das Persönlichkeitsrecht verstoßen, wenn sie beleidigend oder verleumderisch sind. 

Was bedeutet das für die Eltern?

Deep Fakes sind ein relativ neues Phänomen, das sich schnell weiterentwickelt. Auch wenn es nicht immer leicht ist, die technischen Details zu verstehen, ist es wichtig, dass Sie mit Ihrem Kind über diese Themen reden. Hier ein paar Tipps, welche Punkte Sie dabei ansprechen können:

  • Vertrauen: Falls Ihr Kind selbst Opfer eines Deep Fakes wird, ist es wichtig, dass Sie das erfahren. Wenn Sie im Gespräch über seinen Medienumgang sind, können Sie Ihr Kind gegebenenfalls unterstützen.
  •  Respekt vor anderen: Möchte Ihr Kind sich selbst eine Deep Fake-App herunterladen, besprechen Sie gemeinsam, wo die Grenzen liegen, damit Ihr Kind keiner anderen Person Schaden zufügt oder sich strafbar macht.
  • Kritischer Umgang mit Videos: Zeigen Sie Ihrem Kind, wie es überprüfen kann, ob es sich bei einem Video um einen Deep Fake handelt. Hilfestellung dabei bieten z.B.

“logo!” Die Kindernachrichten des ZDF erklären, wie man Deep Fakes erkennen kann. 

“Reporter” ein YouTube-Kanal der öffentlich-rechtlichen Fernsehanstalten, schaut sich genauer an, wie Deep Fakes erstellt werden.

“Deutschlandfunk Nova” das junge Informationsprogramm von Deutschlandfunk erklärt jugendgerecht, wie man manipulierte Videos erkennt.

Betrug im Netz

“Sie haben gewonnen!” – Bestimmt haben Sie diesen Satz schon in einer E-Mail oder anderswo im Netz gelesen. Meistens verbirgt sich hinter einer solchen Nachricht kein Gewinn sondern ein Betrüger, der an Ihre persönlichen Daten oder Geld kommen will. 

Betrug ist im Netz mindestens genauso verbreitet wie anderswo. Oft haben es Betrüger auf Erwachsene abgesehen, aber auch Kinder und Jugendliche können zur Zielscheibe werden. Unsere Beispiele und Tipps sollen Ihnen helfen, Ihr Kind vor Betrügern zu schützen.

Fake-Gewinnspiele 

Mit gefälschten Gewinnspielen, z. B. bei Facebook, versuchen Betrüger an sensible Daten zu gelangen, die sie dann verkaufen. Datenhändler kaufen Daten, um beispielsweise Spam-Mails oder gezielte Werbung zu verschicken.

Fake-Gewinnspiele werden oft von einem anscheinend seriösen Unternehmen verbreitet. Der Fake-Account wirkt dabei sehr echt. Bei vermeintlichen Gewinnspielen von Ikea oder McDonalds kann man angeblich wertvolle Preise gewinnen. Manchmal geht es den Betrügern darum, persönliche Daten wie Adressen, Telefonnummern oder Bankverbindungen abzugreifen. In vielen Fällen wird auch der Gewinn eines Preises angekündigt, der gar nicht existiert. Dafür muss man sich auf einer Webseite registrieren und Daten eingeben, um den Preis zu erhalten. Vor der Teilnahme an einem Gewinnspiel ist es deshalb sinnvoll, z. B. über eine Suchmaschine zu recherchieren, wer dahinter steckt und ob das Gewinnspiel echt sein kann. Eine Liste mit Fake-Gewinnspielen gibt es bei mimikama. Mehr zu Gewinnspielen bei YouTube & Co. können Sie in unserem Beitrag nachlesen.

Phishing-Mails

Auch hinter E-Mails, in denen ein Gewinn versprochen wird, können Betrüger stecken. Man nennt das “Phishing”. Oft ist es gar nicht schwer, solche Betrügereien zu entlarven. Es genügt in der Regel, sich den Anbieter genauer anzuschauen: Ist es ein offizieller Anbieter mit einem Impressum? Handelt es sich um einen verifizierten Account (bei Facebook durch einen blauen Haken zu erkennen)? In jedem Fall ist es ratsam, auf verdächtige E-Mails gar nicht erst einzugehen oder etwas zu zahlen. Fragen Sie im Bekanntenkreis nach, ob auch andere eine solche Mail bekommen haben oder was sie davon halten und recherchieren Sie selbst im Internet.

Betrügerische Online-Shops

Gefälschte Online-Shops lassen sich auf den ersten Blick kaum von echten unterscheiden. Allerdings gibt es hier meistens besonders günstige Preise. Häufig existieren die Produkte gar nicht, die angeboten werden. Bestellt man etwas, wird entweder billige Ware verschickt oder aber gar nichts. Es werden Lieferschwierigkeiten vorgetäuscht oder man hört einfach nie wieder etwas von dem Anbieter, ist aber sein Geld los.

Um Fake-Shops zu enttarnen, hilft es, sich den Anbieter genauer anzuschauen: Ist die Internetadresse verdächtig? Muss man per Überweisung bezahlen, bevor man die Ware erhält oder gibt es mehr Zahlungsmöglichkeiten, z. B. auf Rechnung nach Warenlieferung? Wenn Ihnen oder Ihrem Kind etwas komisch vorkommt, seien Sie lieber vorsichtig und verzichten auf den Kauf über diesen Shop.

Abo-Fallen

Im Internet gibt es viele kostenlose Angebote: Beispielsweise werden Gutscheine, Vorlagen oder Apps frei zur Verfügung gestellt. Doch in manchen Fällen versuchen auch hier Betrüger ihr Glück. Bei anscheinend kostenlosen Leistungen wird man um die Angabe von persönlichen Daten gebeten und soll die Allgemeinen Geschäftsbedingungen (AGBs) akzeptieren. Im Kleingedruckten können Kostenfallen stecken. Setzt man hier vorschnell ein Häkchen, kann es es passieren, dass unbewusst ein kostenpflichtiges Abo abgeschlossen wird.

Um nicht in Abo-Fallen zu tappen, ist es sinnvoll, sich vorher zu fragen, warum bei einer kostenlosen Leistung Daten abgefragt werden. Ist es bereits zu spät, können bei der  Verbraucherzentrale Vordrucke für Rücktritt von Online-Käufen heruntergeladen werden. Browsererweiterungen, die Sie z. B. bei  Web of Trust herunterladen können, erkennen betrügerische Seiten und warnen Sie.

Was können Sie tun, um Ihr Kind zu schützen?

Machen Sie Ihr Kind auf die Gefahren des Online-Betrugs aufmerksam. Sprechen Sie darüber, dass im Netz, gerade wenn persönliche Daten eingegeben werden sollen, womöglich jemand diese Daten mit schlechten Absichten nutzen möchte. Weitere Informationen, wie Sie die Daten Ihres Kindes schützen können, finden Sie hier. Vereinbaren Sie, dass Ihr Kind Sie fragen muss, wenn es etwas im Internet herunterladen, kaufen oder bei einem Gewinnspiel mitmachen möchte. Ihr Kind sollte immer zu Ihnen kommen können, wenn es in eine Betrugsfalle getappt ist. Machen Sie ihm klar, dass es sich in einem solchen Fall nicht schämen muss und Sie eine Lösung finden. Zusätzlich können Sie sich beispielsweise bei der Verbraucherzentrale informieren und beraten lassen. Wenden Sie sich in schweren Betrugsfällen an die Polizei. Das geht auch im Internet über die Onlinewachen.

Was ist eigentlich… Phishing?

Phishing bezeichnet den Diebstahl von Personendaten, insbesondere von Passwörtern. Das kann z. B. über eine E-Mail oder Textnachricht passieren, in der man dazu aufgefordert wird, auf einen Link zu klicken und das Passwort, die Kreditkartennummer oder auch eine Tan-Nummer einzugeben. In den E-Mails wird meist vorgetäuscht, ein bekanntes Unternehmen (z. B. Amazon oder PayPal) oder eine Bank zu sein. Mit den gestohlenen Daten haben die Diebe dann Zugriff auf den Account der Person und können Handlungen in ihrem Namen durchführen, wie beispielsweise teure Waren bestellen oder Überweisungen vornehmen.

Solche Nachrichten enthalten meist Links zu den Internetseiten der vermeintlichen Unternehmen, die sehr echt aussehen können. Lassen Sie sich davon nicht täuschen! Sollten Sie sich sehr unsicher sein, ob es sich um eine echte Anfrage handelt, setzen Sie sich mit Ihrer Bank oder dem Kundensupport des Unternehmens in Verbindung, um mögliche Probleme mit Ihrem Account persönlich und auf sicherem Wege zu klären. Auch wenn sich die Person als eine Freundin oder ein Bekannter ausgibt, könnte es sich um eine Fälschung handeln. Reagieren Sie nicht darauf und sprechen Sie die Person gegebenenfalls später in einem persönlichen Gespräch darauf an. Eventuell wurde ihr Konto unwissentlich gehackt.

Wichtig ist, dass Sie Ihr Kind über diese Art von Betrugsmasche aufklären. Erklären Sie ihm, persönliche Daten oder Passwörter niemals irgendwo anzugeben oder an Personen weiterzugeben, wenn Sie in einer E-Mail oder in einer Messenger-Nachricht danach gefragt werden.

Projektpartner
Unterstützer