AI Slop

Mitten in der Nacht hüpfen fünf Waschbären auf einem Trampolin um die Wette. Eine Person steht auf dem brennenden Eiffelturm. Eine Erdbeere singt und tanzt im Bastrock. Klingt unrealistisch? Ist es auch. Solche Bilder und Videos werden massenhaft mithilfe von Künstlicher Intelligenz erstellt und verbreiten sich rasant im Internet.

AI Slop – was ist das?

„AI Slop“ lässt sich sinngemäß mit „KI-Müll“ übersetzen. Der Begriff bezeichnet vor allem minderwertige Texte, Bilder, Musikstücke und Videos, die mit generativer KI schnell, günstig und in großen Mengen produziert werden. Nicht jeder KI-generierte Inhalt ist automatisch AI Slop. Entscheidend sind vor allem die geringe Qualität und die massenhafte Herstellung.

Dahinter stehen Menschen, automatisierte Bots oder sogenannte „Content Farms“, die gezielt massenhaft Inhalte produzieren. Ihr Hauptzweck besteht häufig darin, mit möglichst wenig Aufwand Aufmerksamkeit, Klicks und damit Werbeeinnahmen zu erzeugen. Manche Beiträge sollen aber auch Produkte verkaufen, Meinungen beeinflussen oder falsche Informationen verbreiten.

In der Flut KI-generierter Inhalte finden sich häufig Videos, die Nutzer*innen schnell in ihren Bann ziehen – etwa von besonders süßen, klugen oder lustigen Tieren. Auch kitschige oder vermeintlich gefährliche Situationen sind weit verbreitet. Daneben gibt es Deepfakes bekannter Personen sowie billig produzierte, reißerische Produktwerbung. Da die Inhalte massenhaft hergestellt werden, tauchen dieselben Themen und Figuren häufig in leicht veränderter Form wieder auf.

Was halten Kinder und Jugendliche von AI Slop?

Kinder und Jugendliche begegnen AI Slop vor allem in Sozialen Medien wie TikTok und Instagram sowie auf Videoplattformen wie YouTube. KI-Videos sind häufig kurz, bunt und Teil aktueller Online-Trends. Damit bedienen sie die Funktionsweise der Algorithmen besonders gut und landen immer wieder in den Social-Media-Feeds junger Menschen. Auch über Angebote für Kleinkinder, beispielsweise Kinderlieder bei YouTube, können Kinder zu solchen KI-Inhalten gelangen.

Auf Kinder und Jugendliche wirkt AI Slop zunächst oft ansprechend: Die Inhalte sind kurzweilig, unterhaltsam und leicht zu konsumieren. Aus den Bildern und Videoschnipseln entstehen immer wieder virale Memes, die man die man ‚kennen muss‘, um in der Peer Group mitreden zu können.

Die kurzen, schnell aufeinanderfolgenden Videos können zum sogenannten „Binge-Scrolling“ beitragen, also dass Kinder und Jugendliche immer weiterschauen möchten. Grelle Bilder, schnelle Schnitte, Musik und ständig neue Überraschungen sorgen für viele Reize. Dadurch kann es schwerfallen, den Feed zu schließen.

What should parents keep in mind?

Machen Sie sich bewusst, dass Ihr Kind – und auch Sie selbst – täglich auf solche Inhalte stoßen, häufig ohne es zu bemerken. KI-generierte Texte, Musik, Bilder und Videos machen einen immer größeren Teil der Inhalte im Internet aus. Bei AI Slop sollten Sie besonders auf folgende Punkte achten:

• Geschäftsmodelle erkennen: Auch wenn die kurzen Videos auf den ersten Blick nur unterhaltsam wirken, verfolgen sie häufig ein klares Ziel: mit möglichst geringem Aufwand Klicks und Aufmerksamkeit zu erzeugen. Aufrufe, Likes und geteilte Beiträge erhöhen ihre Reichweite – und können den Betreiber*innen Geld einbringen, etwa über Werbung oder Plattform-Vergütungen. Sprechen Sie mit Ihrem Kind darüber, warum solche Inhalte erstellt werden und welche Geschäftsmodelle dahinterstehen.
• Nicht vorschnell glauben oder teilen: Wenn der Papst Breakdance macht, ist die Täuschung vielleicht leicht zu erkennen. Doch nicht alle KI-generierten Inhalte sind so offensichtlich. Besonders Beiträge, die wie Nachrichten, Fotos oder Augenzeugenvideos aussehen, können glaubwürdig wirken und nur schwer als Fake erkannt werden. Sprechen Sie mit Ihrem Kind darüber und prüfen Sie verdächtige Inhalte gemeinsam.
• Über Beeinflussung sprechen: AI Slop wird auch von Personen oder Gruppierungen produziert, um Propaganda, extremistische Ansichten oder Desinformation zu verbreiten. Auch Vorurteile und stereotype Darstellungen können darin vorkommen. Hier ist es besonders wichtig, diese oft sehr überzeugend wirkenden Inhalte zu hinterfragen und zu prüfen. Besprechen Sie mit Ihrem Kind, welche Gefühle ein Beitrag auslösen soll und wem seine Verbreitung nützen könnte.
• Rechtliches beachten: Wenn Deepfakes von echten Personen gemacht werden, Falschbehauptungen über Menschen oder Ereignisse verbreitet werden oder Material verwendet wird, das eigentlich geschützt ist, handelt es sich um strafbare Inhalte. Verbreiten Sie solche Beiträge nicht weiter und melden Sie problematische Inhalte gemeinsam mit Ihrem Kind.
• Mediennutzung gemeinsam gestalten: Ein einzelnes Bild oder Video mag unterhaltsam sein. Die ständige Flut kurzer, hektischer und inhaltsarmer Beiträge kann jedoch zu Stress und Reizüberflutung beitragen. Vereinbaren Sie altersgerechte Nutzungszeiten und planen Sie digitale Pausen ein. Gehen Sie als Vorbild voran und motivieren Sie Ihr Kind, das Handy auch einmal bewusst wegzulegen und Offline-Zeiten zu genießen.

Bleiben Sie neugierig und schauen Sie sich gelegentlich gemeinsam an, was Ihrem Kind im Feed begegnet. Fragen wie „Was findest du daran lustig?“, „Könnte das mit KI gemacht sein?“ oder „Warum wird uns dieses Video wohl angezeigt?“ bringen Sie mit Ihrem Kind ins Gespräch und fördern die Medienkompetenz.