Hat Ihr Kind auch schon mal mit Napoleon oder Harry Potter gechattet? Mit character.ai ist das nun möglich. Der Dienst ermöglicht es Nutzer*innen, Chat-Bots zu erstellen und zu nutzen. Diese Bots werden mithilfe von Künstlicher Intelligenz trainiert und können in Live-Chats bekannte Persönlichkeiten oder fiktive Figuren authentisch nachahmen. Was zunächst harmlos klingt, kann aber auch Risiken bergen.
Chat-Bots bedienen sich einer Technologie, die auf Künstlicher Intelligenz (KI) basiert. Sie sind so programmiert, dass sie ein Gespräch mit einer realen Person nachahmen können. Durch das Chatten mit den Nutzer*innen lernen die Bots stetig dazu. Das Besondere an charakter.ai ist, dass Nutzer*innen solche Chat-Bots selbst erstellen und deren Persönlichkeit individuell gestalten können. Nutzer*innen können ihre Bots öffentlich zugänglich machen, sodass alle in der Community mit ihnen chatten können. Die Grundsprache der Webseite, der App und der Chat-Bots ist aktuell Englisch. Viele Bots verstehen darüber hinaus auch andere Sprachen und können sogar auf Deutsch kommunizieren.
Der Reiz liegt erst einmal darin, mit den bereits erstellten und geteilten Bots der Community zu chatten. Auf der Startseite finden Kinder und Jugendliche eine ganze Menge an beliebten Chat-Bots, mit denen sie sich sofort unterhalten können. Die meisten sind an bekannte Personen wie Promis, Politiker*innen, historische Persönlichkeiten oder fiktive Charaktere aus Büchern, Filmen oder Anime angelehnt. Das erweckt für Kinder und Jugendlichen den Anschein, direkt mit ihren Held*innen und Vorbildern in Kontakt zu treten. Darüber hinaus kommen Chat-Bots auch für praktische Zwecke zum Einsatz. Zum Sprachenlernen können Nutzer*innen mit einem Bot in einer Fremdsprache chatten. Wer eine Geschichte schreiben möchte, kann sich fiktive Charaktere als Bot erstellen und gemeinsam eine Story entwickeln.
Neben den vielfältigen Möglichkeiten, die character.ai bietet, bestehen auch Risiken für Kinder und Jugendliche, die Sie als Eltern im Blick haben sollten.
Zum einen werden die Antworten der Chat-Bots von der KI-Technologie generiert und weder eingeordnet noch auf ihre faktische Richtigkeit überprüft. Besonders bei Chat-Bots, die reale Personen imitieren, kann das problematisch sein. Denn Nutzer*innen muss immer klar sein, dass es sich hier nicht um echte Informationen über die imitierten Personen handelt.
Zum anderen ist es möglich, die Chat-Bots auf problematische Verhaltensweisen wie Sexting oder das Verbreiten radikaler politischer Botschaften hinzutrainieren. Da es nicht einsehbar ist wie genau ein Bot trainiert wurde, sollten Nutzer*innen hier besonders wachsam sein. character.ai versucht zwar mit Filtern zu verhindern, dass problematische Inhalte erzeugt werden. Doch im Internet gibt es zahlreiche leicht zugängliche Anleitungen, wie diese Filter umgangen werden können.
Character.ai selbst hat eine Altersbeschränkung von 16 Jahren angegeben. Diese wird jedoch nur durch die Eingabe des Geburtsdatums bei der Anmeldung überprüft und kann somit leicht umgangen werden. Auch gibt es innerhalb der Chatfunktion Warnhinweise, dass man die Antworten des Chat-Bots nicht ernst nehmen solle, da die Antworten möglicherweise nicht der Realität entsprechen.
Character.ai ist vom Anbieter ab 16 Jahren freigegeben. Wägen Sie ab, ob Sie Ihrem Kind einen verantwortungsvollen Umgang mit dem Dienst zutrauen. Sollten Sie Ihrem Kind die Nutzung von character.ai erlauben, bleiben Sie mit Ihrem Kind über die Gespräche, die es mit Chat-Bots führt im Austausch und seien Sie wachsam. Klären Sie Ihr Kind über die Funktionsweisen sowie die Chancen und Risiken von KI-gestützten Technologien auf:
Erkunden Sie gemeinsam mit Ihrem Kind die Möglichkeiten, die character.ai bietet, um Ihr Kind optimal für den Umgang mit KI-basierten Chat-Tools vorzubereiten. Vielleicht erstellen Sie sogar selbst einen Chat-Bot und teilen ihn mit der Community.
