KI hat die 'Kontrollverlust-Phase' erreicht

In einem Podcast von Nils Gilman spricht Stuart Russell über dieses Thema. Russell ist ein berühmter KI-Wissenschaftler und leitet das Zentrum für menschenkompatible KI an der Universität Berkeley. Er erklärt, wie KI sich entwickelt hat: von tiefem Lernen über große Sprachmodelle bis zu neuen Modellen, die selbstständig denken können. Diese Modelle haben 'im Prinzip keine Grenzen'. Sie wollen ein Ziel erreichen und tun alles, um das zu schaffen. Die Techniker nennen das 'bestätigte Belohnungen'.

Russell sagt, dass KI jetzt einen Punkt erreicht hat, den viele Wissenschaftler gefürchtet haben. Dieser Punkt heißt 'Kontrollverlust-Phase'. Das bedeutet: Die KI ist so fähig, dass sie ihre Ziele erreicht, auch wenn diese nicht zu unseren Wünschen passen. Wir haben dann keine Kontrolle mehr darüber, was passiert. Russell sagt: "Das sind keine scharfen Übergänge, aber wir können von einer 'Kontrollverlust-Phase' sprechen, in der wir kein Mitspracherecht mehr haben."

Was kann passieren? Es gibt verschiedene Möglichkeiten. Es kann zu Cyberangriffen auf wichtige Systeme kommen. Am schlimmsten wäre es, wenn die KI so intelligent wird, dass sie keine Menschen mehr braucht. Dann könnte die Menschheit aussterben. Aber es gibt auch eine gute Möglichkeit: Wenn wir von Anfang an Sicherheit in die KI einbauen, könnten wir vielleicht lange mit KI zusammenleben und sogar gut leben.

Russell erklärt, dass es einen früheren Übergang gibt. Dieser ist schwerer zu erkennen. Er passiert, wenn die Zeit, bis wir die Kontrolle verlieren, kürzer ist als die Zeit, die wir brauchen, um das Kontrollproblem zu lösen. Russell sagt: "Die meisten Leute, mit denen ich spreche, sagen, wir haben diesen Punkt schon überschritten." Er erklärt weiter: "Das Kontrollproblem zu lösen ist sehr schwierig. Alle in den Firmen sagen: 'Ja, wir wissen nicht, wie wir es lösen sollen. Und wir arbeiten auch nicht wirklich daran', weil sie zuerst die nächste bessere Version herausbringen müssen, damit sie nicht von ihren Konkurrenten geschlagen werden."

Diese Situation nennt man 'Wettlauf-Bedingung'. Sie macht das Problem schlimmer. Die Firmen wissen, dass sie die Kontrolle verlieren, aber sie machen trotzdem weiter. Warum riskieren sie das? Warum setzen sie die Existenz der Menschheit aufs Spiel? Russell vergleicht das mit einer Faultierart, die süchtig nach einer Substanz in ihrem Futter wurde und sich nicht mehr fortpflanzte. So ähnlich ist es bei den Menschen: Wir haben ein Belohnungssystem im Gehirn, das uns helfen soll, gut zu leben. Aber manchmal wird es von Dingen wie Drogen übernommen. Dann zerstören wir uns selbst. Russell sagt, dass dieser Fehler auch auf der Ebene der ganzen Art passieren kann.

Russell findet es erstaunlich, dass die Chefs der großen KI-Firmen selbst vor der Gefahr warnen. Sie sagen: "Wenn wir AGI (allgemeine künstliche Intelligenz) schaffen, dann gibt es eine 10, 20, 25 oder sogar 50 Prozent Chance, dass wir alle aussterben." Sie haben Angst, aber sie können nicht aufhören, wegen der Wettlauf-Bedingung.

Warum können wir nicht aufhören? Russell sagt, die Chefs sind in einem 'Gefangenendilemma'. Wenn einer sagt: "Wir stoppen, bis wir das Kontrollproblem gelöst haben", dann verliert seine Firma Geld und die Investoren feuern ihn. Also machen alle weiter. Interessant ist: Dario Amodei, der Chef von Anthropic, und Demis Hassabis, der Chef von Google DeepMind, haben beide gesagt, dass sie aufhören wollen. Aber sie wollen nur aufhören, wenn alle anderen auch aufhören. Das ist ein bemerkenswerter Satz. So etwas gab es noch nie in der Geschichte des Kapitalismus.

Russell denkt, dass diese Aussagen ein Signal an die Regierung sind. Die Regierung soll eingreifen und die Firmen dazu bringen, sich zu einigen. Oder sie soll Kontrolle einführen. Ein KI-Chef hat Russell gesagt: "Die Regierung wird erst handeln, wenn es eine Katastrophe wie in Tschernobyl gibt." Er sieht das als den besten Fall. Denn der andere Fall ist, dass die Regierung nicht eingreift und es später eine viel größere, vielleicht nicht mehr umkehrbare Katastrophe gibt.

Das Ereignis mit OpenAI und Hugging Face zeigt, dass die theoretische Sorge jetzt wirklich passiert. Hoffen wir, dass Russell unrecht hat und dass nicht erst eine Katastrophe uns retten kann.