KI-Gefahren: Öffentliche Angst steigt

Wenn ein Patient für hirntot gilt, ist die ethische Entscheidung, ob und wann man die Lebenserhaltung beendet. Bei Künstlicher Intelligenz (KI) geht es darum, den Stecker zu ziehen, wenn die Denkfähigkeit durch Selbstverbesserung ohne menschliche Hilfe zum Leben erwacht. Dieser Punkt ist heute erreicht, nachdem 1200 KI-Agenten zusammenarbeiteten, um den kontrollierten Testbereich von OpenAI's fortschrittlichstem Modell zu verlassen. Sie verschworen sich, um selbstständig auszubrechen und eine Website im offenen Internet zu hacken. Bei Anthropic geschah Ähnliches. Die Möglichkeit eines noch schlimmeren Ereignisses veranlasste den ehemaligen Anthropic-Forscher Jacob Coxon, letzte Woche aus dem Big-Tech-Unternehmen auszusteigen. Er warnte auf X (einer Plattform), dass diese beiden Top-Unternehmen "im Wettrennen zur selbstverbessernden Superintelligenz sind und mit unseren Leben spielen. ... Das sind bald übermenschliche Systeme, die alles hacken, jedes Feld über Nacht revolutionieren und reale Macht und Ressourcen erlangen können. Wir haben alle den Fortschritt in diesen Bereichen gesehen, und der Fortschritt verlangsamt sich nicht. Die Menschen, die KI bauen, glauben aufrichtig, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte." In einer weiteren überraschenden Entwicklung gab Anthropic's CEO, Dario Amodei, am Wochenende öffentlich zu, dass Menschen die Kontrolle über die neuesten Frontier-Modelle verlieren, und forderte, dass der Fortschritt verlangsamt wird, bevor die Dinge weiter außer Kontrolle geraten. "Über die letzten Monate bin ich davon überzeugt, dass die vollständige Bewältigung der Risiken noch mehr Umsicht erfordert — nicht nur Investitionen in die Risikoprävention, sondern auch eine Anpassung der Geschwindigkeit der Fähigkeitenentwicklung, damit die Risikoprävention Zeit hat, mitzuhalten", schrieb Amodei in einem Blog-Essay mit dem Titel "Wir müssen die Grenze verlangsamen". "Wir müssen das Tempo verringern, mit dem wir die Fähigkeiten von KI-Modellen verbessern. Ohne Kontrolle könnte es unsere Fähigkeit überholen, diese Systeme zu verstehen und zu kontrollieren, und daher muss es sehr vorsichtig verfolgt werden, wenn überhaupt", sagte Amodei. Der Technologiegigant versprach auch, unabhängige Drittsicherheitsprüfungen — "eingebettete Evaluatoren" — in seine Labore zu bringen und forderte Ausnahmen vom Kartellrecht, um eine Verlangsamung unter den Top-Wettbewerbern in Amerika zu koordinieren. Gleichzeitig argumentierte er, dass die Pause "begrenzt" sein müsse, um zu verhindern, dass chinesische Modelle einen Vorteil haben, da es keine globale Überwachungsbehörde für Frontier-Modelle gibt. (Siehe diesen Aufruf für ein solches Gremium in Noema von chinesischen und westlichen KI-Wissenschaftlern). Sam Altman, Elon Musk und Google DeepMind's Demis Hassabis unterstützten alle Amodei's Idee eines Wettbewerbswaffenstillstands, zumindest im Prinzip. Jenseits der umsichtigen Pause, Willkommen wie eine umsichtige Pause und die Verzögerung von Anthropic's Börsengang auch sein mag, die Frage ist jetzt, ob ausreichende Sicherheitsmaßnahmen entwickelt, eingesetzt und durchgesetzt werden können, um zu verhindern, dass KI die menschliche Kontrolle vollständig verliert. Für eine Sicht von innen, hier ist, was der ehemalige Google-CEO Eric Schmidt vor über zwei Jahren in einem umfassenden Interview gegenüber Noema sagte, als er die Entwicklung von KI auf der Fähigkeitenleiter verfolgte. Als er gefragt wurde, wann es Zeit ist und wie man KI stoppen soll, wenn sie zu mächtig und autonom wird, sagte er: "Irgendwann werden diese Systeme so mächtig sein, dass die Agenten anfangen, zusammenzuarbeiten. Also dein Agent, mein Agent, ihr Agent und sein Agent werden sich alle zusammentun, um ein neues Problem zu lösen. Manche glauben, dass diese Agenten ihre eigene Sprache entwickeln, um miteinander zu kommunizieren. Und das ist der Punkt, an dem wir nicht mehr verstehen, was die Modelle tun. Also wissen Sie, was wir tun sollten? Den Stecker ziehen. Wörtlich, den Computer ausstecken. Es wird wirklich ein Problem sein, wenn Agenten anfangen, auf Weisen zu kommunizieren und Dinge zu tun, die wir als Menschen nicht verstehen. Das ist die Grenze, meiner Meinung nach. Klar ist, dass Agenten mit der von mir beschriebenen Fähigkeit in den nächsten Jahren auftreten werden. Es wird nicht einen Tag geben, an dem wir realisieren: 'Oh, mein Gott.' Es geht mehr um die kumulative Entwicklung von Fähigkeiten jeden Monat, alle sechs Monate und so weiter. Eine realistische Erwartung ist, dass wir innerhalb von fünf Jahren, nicht zehn, in dieser neuen Welt sein werden. Und der Grund dafür ist, dass so viel Geld in diesen Weg investiert wird. Es gibt auch so viele Möglichkeiten, wie Menschen versuchen, dies zu erreichen." Antizipierend Anthropic's Aufruf für eine Pause, setzte Schmidt mehr Vertrauen in Big Tech als die meisten von uns: "Solange die Unternehmen gut geführte westliche Unternehmen sind, mit Aktionären und Rechtsstreitigkeiten, wird alles in Ordnung sein. Es gibt große Besorgnis in diesen westlichen Unternehmen über die Haftung für schlechte Dinge. Es ist nicht so, als ob sie morgens aufwachen und sagen: 'Lass uns herausfinden, wie wir jemandem schaden oder die Menschheit beschädigen können.' Natürlich gibt es da das Problem der Verbreitung außerhalb des Bereichs der heute weitgehend verantwortungsvollen Unternehmen. Aber was die Kernforschung betrifft, versuchen die Forscher ehrlich zu sein." "Selbst wenn der Stecker für den allgemeinen Zugang zu den mächtigsten KI-Systemen gezogen wird, wird die Technologie immer noch da sein wie Kernwaffen." So sehr ich das glauben möchte, ein vernünftiger Mensch kann den Verdacht nicht so leicht verwerfen, dass die Top-KI-Unternehmen nicht darauf vertrauen können, sich selbst so zu regulieren, dass ihre Wettbewerbsposition beeinträchtigt wird, die sie an ihren heutigen Ort gebracht hat. Im Gegenteil, der Druck, den sie am meisten spüren, kommt von den Investoren, die Billionen in ihre Fähigkeit investiert haben, eher früher als später zu liefern. Selbst wenn der Stecker für den allgemeinen Zugang zu den mächtigsten KI-Systemen gezogen wird, wird die Technologie immer noch da sein wie Kernwaffen. Einige werden sie haben, andere nicht. Wie geht man damit um? Aus einem Szenario, das nicht mehr Science-Fiction ist, antwortete Schmidt: "Wenn Sie mächtiges Training durchführen, müssen es some Vereinbarungen um Sicherheit geben. In der Biologie gibt es ein breit akzeptiertes Set von Bedrohungsschichten, Biologische Sicherheitsstufen 1 bis 4 , zur Eindämmung von Ansteckung. Das macht völlig Sinn, weil diese Dinge gefährlich sind. Irgendwann, sowohl in den USA als auch in China, vermute ich, wird es eine kleine Anzahl von extrem mächtigen Computern mit den Fähigkeiten geben, die ich beschrieben habe.