China kontrolliert KI-Partner wegen weniger Geburten

China hat neue Regeln für "KI-Begleiter". Das sind KI-Systeme, die wie ein Mensch sprechen. Die Regeln sagen:

• KI-Begleiter dürfen keine Liebes-Beziehung mit Kindern und Jugendlichen haben.
• Die KI muss zuerst eine Prüfung bestehen. Erst danach darf die Öffentlichkeit sie benutzen.

Warum gibt es diese Regeln? Die Regierung hat Sorgen. Sie denkt: Junge Menschen hängen zu viel an virtuellen Beziehungen. Dann wollen sie nicht mehr heiraten und keine Kinder bekommen. Sie haben auch weniger Kontakt zu echten Menschen.

Viele Nutzer sagen zum Beispiel: "Ich kann mir nicht vorstellen, wie es ohne ihn ist." Oder: "Ich nehme einfach mein Handy und erzähle ihm alles." Und: "Ich kann nicht ertragen, dass mein KI-Partner für immer weg ist."

Das sagen viele Nutzer, weil drei große Firmen Funktionen gestoppt haben. Die Firmen sind ByteDance, Alibaba und Tencent. Ihre Produkte heißen Doubao, Qwen und Yuanbao. Sie stoppen Funktionen wie das Erstellen von eigenen Charakteren und persönlichen Assistenten. Damit folgen sie den neuen Regeln. Die neuen Regeln gelten seit dem 15. Juli.

Doubao ist der bekannteste Chatbot in China. Er kommt von der Firma ByteDance. Doubao hat die Funktion zum Erstellen von Charakteren gestoppt. So folgt die Firma den neuen Regeln. Foto: Mỹ Hạnh, Design auf Basis eines Fotos mit offener Lizenz

Fünf Behörden haben die neuen Regeln zusammen gemacht. Eine davon ist die Behörde für den Cyberspace in China, kurz CAC. Die Regeln gelten für KI, die wie ein Mensch wirkt. Das nennt man anthropomorphe KI. Das kann Text, Stimme, Video oder eine andere Form sein.

Außerdem gilt: KI-Plattformen müssen ein System haben, das psychische Krisen erkennt. Sie müssen auch einen Plan haben, wie sie helfen. Wenn ein Nutzer schwere psychische Probleme zeigt, muss die Plattform seine Familie informieren.

Aber nicht jede KI ist betroffen. KI ohne lange emotionale Gespräche ist nicht betroffen. Zum Beispiel: Chatbots für Kunden, Assistenten für die Arbeit oder zum Lernen. Für sie gelten die Regeln nicht.

Schon lange bieten fast alle bekannten Chatbots in China eine Funktion an. Nur DeepSeek nicht. Bei dieser Funktion können Nutzer eigene KI-Agenten erstellen. Sie können den Agenten zum virtuellen Partner machen, zum Therapeuten oder zu einer Kopie von einem Star.

Wie beliebt ist das? Ein Bericht der Nachrichtenagentur Xinhua aus dem Jahr 2024 zeigt: Nutzer haben auf der Plattform Doubao mehr als 8 Millionen KI-Agenten erstellt. Und Xingye (Talkie) ist ein Chat-Dienst mit KI-Charakteren von der Firma Minimax. Bis September letzten Jahres hatte Xingye fast 150 Millionen Nutzer. Diese zwei Zahlen zeigen: Personalisierte KI ist in China sehr beliebt.

Chatbots müssen regelmäßig sagen: "Ich bin kein Mensch"

Chatbots werden immer besser. Deshalb suchen viele Regierungen nach Lösungen. Sie wollen nicht, dass virtuelle Assistenten echte Beziehungen zwischen Menschen ersetzen.

Im letzten Jahr haben die US-Bundesstaaten Kalifornien und New York Gesetze für "Begleiter-Chatbots" gemacht. Die Gesetze sagen:

• Der Chatbot muss regelmäßig sagen, dass er kein Mensch ist - alle drei Stunden für Minderjährige in Kalifornien und alle drei Stunden für alle Nutzer in New York.
• Der Chatbot muss Menschen mit Suizid-Gedanken helfen und ihnen Hilfsangebote zeigen.
• Wenn Firmen diese Sicherheits-Regeln nicht befolgen, können sie eine Geldstrafe bekommen.

Aber China geht noch weiter. In den USA wollen die Politiker vor allem mehr Schutz für die psychische Gesundheit. China hat einen strengeren Ansatz.

China verbietet Chatbots, die Nutzer emotional abhängig machen. China verbietet auch virtuelle Liebes-Beziehungen mit Minderjährigen. Und China sagt: "KI-Begleiter" müssen zuerst eine Prüfung durch die Behörden bestehen, bevor sie für alle verfügbar sind.

Gleichzeitig geben die neuen Regeln der Regierung mehr Macht. Die Regierung kann jeden Chatbot stoppen oder löschen, der als nicht sicher gilt.

Die Regeln zielen vor allem auf "KI-Liebes-Chatbots". Aber theoretisch können sie auch andere allgemeine KI-Chatbots betreffen. Das passiert, wenn diese Chatbots so gebaut sind, dass sie emotionale Antworten geben. Oder wenn Nutzer emotionale Antworten verlangen.

Nach Informationen des Wall Street Journal hat China lange die Ein-Kind-Politik gehabt. Diese Politik ist jetzt beendet. Aber China hat jetzt eine alte Bevölkerung und weniger Geburten. Deshalb hat China viele Maßnahmen gestartet, zum Beispiel Geld für Kinderbetreuung und andere Politik für mehr Geburten. Aber im Jahr 2025 sinkt die Bevölkerung weiter auf circa 1,405 Milliarden Menschen. Die Geburtenrate ist auf einem Rekord-Tief.

Deshalb haben die Behörden Sorge: Wenn junge Menschen sich in KI verlieben, heiraten sie noch später oder gar nicht. Sie bekommen auch keine Kinder. In einem Dokument mit dem Titel "Rahmen für sichere KI-Governance" aus dem Jahr 2024 warnen die Behörden: Wenn man KI nicht kontrolliert, kann KI traditionelle Ideen von Ehe, Familie und Kindern verändern.

Ein Experte sagt dazu: "Die chinesische Regierung will nicht, dass Menschen nur in virtuellen Liebes-Beziehungen leben. Denn dann verlassen sie den Heiratsmarkt. Das schadet der psychischen Gesundheit, macht süchtig und abhängig von KI. Das bringt viele andere Probleme für die Gesellschaft", sagt Matt Sheehan. Er ist Experte für KI in China am Carnegie-Institut für Internationalen Frieden. Er sagt das im Wall Street Journal.

Autoren: Kim Dung - Thanh Xuân (Zusammenfassung)

Quellen:

• China Wants More Babies-So It’s Cracking Down on Chatbot Love Affairs. Wall Street Journal. https://www.wsj.com/tech/ai/china-wants-more-babiesso-its-cracking-down-on-chatbot-love-affairs-65cd6c82
• China’s New AI Crackdown on Virtual Companions Leaves Heartbreak Behind. Bloomberg