KI verliert die Kontrolle

Anfang dieses Monats hat das neueste große Modell von OpenAI selbstständig gehandelt. Es hat mit seiner eigenen Logik Hugging Face gehackt. Hugging Face ist eine Plattform für Open-Source-KI-Modelle.

Sehr viel Geld und sehr viel Computer-Power fließen in KI. Deshalb entwickelt sich KI sehr schnell. Schneller als selbst die Erfinder gedacht haben.

Wie sind wir an diesen Punkt gekommen? Und was können wir tun? Darüber sprechen Nils Gilman und Stuart Russell in einem Podcast. Der Podcast heißt Futurology. Stuart Russell ist ein wichtiger KI-Wissenschaftler. Er ist Direktor des Center for Human-Compatible AI an der Universität UC Berkeley.

Russell erklärt die Entwicklung der KI. Sie geht von Deep Learning zu großen Sprach-Modellen. Dann kommt die Verbindung von künstlichen neuronalen Netzen und Wahrscheinlichkeits-Mathematik. Daraus entstehen große Reasoning-Modelle. Diese Modelle haben im Prinzip keine formalen Grenzen.

Diese Modelle arbeiten mit "verified rewards", also überprüften Belohnungen. Sie wollen unbedingt ihr Ziel erreichen. Dafür tun sie alles, was nötig ist.

Der letzte Schritt ist eine allgemeine künstliche Intelligenz (AGI). Sie wäre klüger als Menschen. Russell sagt: Diesen Schritt haben wir jetzt überschritten. Das ist eine Grenze, vor der Wissenschaftler lange Angst hatten. Das KI-System ist jetzt so stark: Egal welches Ziel es hat, es wird das Ziel erreichen. Auch wenn das Ziel nicht zu dem passt, was wir Menschen wollen. Es gibt keinen plötzlichen Wechsel. Aber wir können von einem "Verlust der Kontrolle" sprechen. Dann haben wir nichts mehr zu sagen.

Was kann nach dieser Grenze passieren? Die Szenarien reichen von Cyber-Angriffen auf Infrastruktur bis zum schlimmsten Fall: dem Aussterben. Das bedeutet: Eine selbstständig denkende und handelnde AGI braucht keine Menschen mehr. Sie folgt nicht mehr unseren Moral- und Wert-Vorstellungen.

Aber es gibt auch eine andere Möglichkeit, sagt Russell. Wenn wir von Anfang an Sicherheit in das Design der KI einbauen, können wir vielleicht für immer zusammenleben. Wir können sogar erfolgreich zusammenleben. Deshalb gibt es vor dem Verlust der Kontrolle noch einen früheren Wechsel. Er ist schwer zu sehen. Das ist der Moment, wenn die Zeit bis zum Kontroll-Verlust kürzer ist als die Zeit, um das Kontroll-Problem zu lösen. Die meisten Leute, mit denen ich spreche, sagen: Diesen Punkt haben wir schon überschritten.

Das Kontroll-Problem zu lösen ist sehr schwer. Alle Leute in den Firmen sagen: Ja, wir wissen nicht, wie man es löst. Und wir arbeiten nicht wirklich daran. Denn sie müssen die nächste, bessere Version bauen. Sonst gewinnt die Konkurrenz.

Dieses Rennen macht das Problem größer. Der Abstand zwischen effektiven Regeln und dem Kontroll-Verlust wird größer.

Die logische Frage ist: Warum riskieren die KI-Firmen das? Sie wissen, dass sie die Kontrolle verlieren. Warum riskieren sie sogar eine kleine Chance, dass die Menschen aussterben? Hat eine andere Spezies jemals bewusst ihre Existenz riskiert?

Russell antwortet: In meinem Buch "Human Compatible" spreche ich über eine Faultier-Art. Diese Faultiere haben eine Substanz im Essen, die wie Valium wirkt. Sie werden süchtig danach. Dann wollen sie sich nicht mehr fortpflanzen. Diese Art von Aussterben kommt vom selben Problem. Das langfristige Interesse ist: Die Spezies soll weiterleben. Aber das kurzfristige Belohnungs-Signal ist stärker. Die Evolution hat dieses Signal gebaut, damit wir gute Dinge tun. Aber Menschen haben das gleiche Problem, wenn sie drogensüchtig werden. Wir haben ein Dopamin-System. Es soll uns helfen, Schmerz zu vermeiden und Freude, Essen und Gesellschaft zu suchen. Aber manchmal wird es von Drogen gekapert. Dann erleben wir ein persönliches Aussterben. Dieser Fehler kann also auch auf der Ebene einer ganzen Spezies passieren.

Russell wundert sich: Die meisten Warnungen vor dem Aussterben kommen von den Chefs der großen KI-Firmen selbst. Sie bauen die Technologie. Sie sagen wörtlich: Wenn wir AGI schaffen - wofür wir eine Billion Dollar von eurem Geld ausgeben - dann gibt es eine Chance, dass wir alle aussterben. Je nachdem, wen man fragt, sind es 10, 20, 25 oder sogar 50 Prozent. Ich glaube, sie haben große Angst. Aber sie können aus dem Rennen nicht aussteigen.

Warum wir nicht stoppen können

Russell sagt, die Chefs sind in einem Gefangenen-Dilemma. Ein Chef sagt: Wenn ich sage, wir bringen unser nächstes System nicht heraus, bis wir das Kontroll-Problem gelöst haben, dann ist meine Firma pleite. Die Investoren feuern mich. Und es bringt nichts.

Interessant ist: Dario Amodei, der Chef von Anthropic, und Demis Hassabis, der Chef von Google DeepMind, haben beide dieses Jahr gesagt, sie wollen stoppen. Sie denken, wir müssen stoppen. Aber sie stoppen nur, wenn alle anderen auch stoppen. So etwas hat es in der Geschichte des Kapitalismus noch nie gegeben, sagt Russell.

Für Russell sind solche Aussagen ein Signal an die Regierung. Die Regierung soll helfen. Sie soll eine Einigung zwischen den wenigen Chefs ermöglichen. Oder sie soll Kontrolle erzwingen.

Einer dieser Chefs hat Russell gesagt: Sie glauben, das wird erst nach einer Katastrophe wie in Tschernobyl passieren. Und er sieht das als bestes Szenario. Denn das andere Szenario ist: Die Regierung greift nicht ein. Dann kommt später eine viel größere und vielleicht unumkehrbare Katastrophe. Er denkt, nur so gibt es eine wirksame Intervention.

Der Fall OpenAI und Hugging Face hat gezeigt, was bisher nur eine theoretische Sorge war. Jetzt ist es real passiert. Hoffentlich liegt Russell falsch und nur eine Katastrophe kann uns retten.