China verschärft Regeln für KI-Begleiter

China hat neue Regeln für KI-Begleiter eingeführt. Diese KI-Begleiter dürfen keine Liebesbeziehungen mit Minderjährigen aufbauen. Außerdem müssen sie geprüft werden, bevor sie der Öffentlichkeit zur Verfügung gestellt werden.

Der Grund für diese Regeln: Die Behörden haben Angst, dass junge Menschen zu abhängig von virtuellen Beziehungen werden. Sie könnten dann nicht mehr heiraten oder Kinder bekommen wollen. Sie könnten auch weniger echte Kontakte haben.

Viele Nutzer sind sehr traurig. Sie sagen zum Beispiel: "Ich kann mir nicht vorstellen, ohne ihn zu leben." Oder: "Ich bin es gewohnt, mit ihm zu sprechen, wann immer ich will." Oder: "Ich kann es nicht ertragen, dass mein KI-Freund mich für immer verlässt."

Die Firmen ByteDance, Alibaba und Tencent haben einige Funktionen ihrer Produkte Doubao, Qwen und Yuanbao gestoppt. Dazu gehört das Erstellen von eigenen Charakteren und virtuellen Assistenten. Sie tun das, um die neuen Regeln einzuhalten, die seit dem 15. Juli gelten.

Doubao ist der beliebteste KI-Chatbot in China. Er gehört zu ByteDance. Doubao hat die Funktion zum Erstellen von eigenen Charakteren gestoppt.

Die neuen Regeln wurden von fünf Behörden gemacht, darunter die Internetbehörde CAC. Sie gelten für KI-Tools, die wie Menschen aussehen oder sprechen. Das kann Text, Sprache, Video oder andere Formen sein.

Außerdem müssen KI-Plattformen ein System haben, das psychische Krisen erkennt. Wenn ein Nutzer schwere psychische Probleme hat, müssen die Plattformen eingreifen und die Familie informieren.

KI-Dienste ohne emotionale Interaktion, wie zum Beispiel Kundenservice-Chatbots oder Arbeitsassistenten, sind von den Regeln nicht betroffen.

Schon vorher hatten die meisten Chatbot-Plattformen in China Funktionen, mit denen Nutzer eigene KI-Begleiter erstellen konnten. Sie konnten sie als Partner, Therapeuten oder als Nachbildungen von Prominenten gestalten.

Im Jahr 2024 haben Nutzer auf der Plattform Doubao über 8 Millionen KI-Agenten erstellt. Der Dienst Xingye (Talkie) von Minimax hatte fast 150 Millionen Nutzer bis September letzten Jahres. Das zeigt, wie beliebt diese KI-Dienste in China sind.

Viele Regierungen wollen sicherstellen, dass KI-Chatbots nicht echte Beziehungen ersetzen. In den USA haben Kalifornien und New York Gesetze zu "Begleit-Chatbots" gemacht. Dort müssen Chatbots den Nutzern regelmäßig sagen, dass sie keine Menschen sind. In Kalifornien alle drei Stunden für Minderjährige, in New York alle drei Stunden für alle Nutzer. Chatbots müssen auch Menschen mit Selbstmordgedanken helfen. Wenn Firmen das nicht machen, können sie bestraft werden.

China geht noch weiter. Die USA verlangen vor allem Schutz für die psychische Gesundheit. China hat strengere Regeln.

China verbietet Chatbots, die emotionale Abhängigkeit fördern. Es verbietet auch virtuelle Liebesbeziehungen mit Minderjährigen. Neue "Begleit-Chatbots" müssen vorher von den Behörden geprüft werden.

Die Regierung darf unsichere Chatbots stoppen oder entfernen.

Die Regeln betreffen hauptsächlich "Liebes-Chatbots". Sie können aber auch andere KI-Chatbots betreffen, wenn diese emotionale Antworten geben.

China hat ein Problem mit der Bevölkerungsentwicklung. Nach der Ein-Kind-Politik gibt es jetzt weniger Geburten. Die Bevölkerung wird älter. Im Jahr 2025 hatte China nur noch etwa 1,405 Milliarden Menschen. Die Geburtenrate war sehr niedrig.

Die Behörden haben Angst, dass junge Menschen durch KI-Liebesbeziehungen nicht mehr heiraten oder Kinder bekommen wollen. In einem Dokument von 2024 warnen sie, dass KI die traditionellen Vorstellungen von Ehe und Familie verändern könnte.

Ein Experte sagt: "Die Behörden wollen nicht, dass die Menschen in virtuellen Liebesbeziehungen versinken. Das könnte sie vom Heiraten abhalten und ihrer psychischen Gesundheit schaden."