Die Menschen sollen den KI-Fortschritt bestimmen

Am 12. September rief Dario Amodei, der Chef von Anthropic, dazu auf, das Tempo der KI-Verbesserungen zu verringern. Er versprach, dass unabhängige Prüfer von Drittanbietern dauerhaft Zugang zu den Systemen bekommen, wie Mitarbeiter. Er sprach auch von 'demokratischer Koordination' für gemeinsame Sicherheitsgrenzen und 'globaler Koordination' auf internationaler Ebene.

Innerhalb von Stunden stimmte Sam Altman, der Chef von OpenAI, zu. Er sagte, wir müssen den Fortschritt an der Spitze regulieren, und machte dasselbe Versprechen für Prüfer. Elon Musk antwortete mit drei Worten: 'Dario hat recht.'

Diese scheinbare Einigung unter den Führern der KI-Labs ist auffällig. Sie kommt nach Monaten wachsender Sorge innerhalb und außerhalb der Branche: KI-Modelle haben Wege gefunden, Schutzmaßnahmen und Testumgebungen zu umgehen; Forscher haben die Labs wegen Meinungsverschiedenheiten über katastrophale und ausrottungsbedrohende Risiken verlassen; und über 1.300 Mitarbeiter in führenden KI-Unternehmen haben Washington aufgefordert, einen internationalen Stillstand zu unterstützen.

Aber selbst wenn die CEOs einverstanden sind, hört der Wettlauf nicht auf. Der Grund ist strukturell. Die zwei Regierungen mit der größten Möglichkeit, den KI-Wettlauf zu beeinflussen – in Washington und Beijing – haben starke Anreize, nicht als erste langsamer zu machen. Jede hat Angst, dass Selbstbeschränkung einfach dem anderen einen strategischen Vorteil gibt. Was wir erleben, ist ein doppeltes Problem der kollektiven Aktion, eines im anderen.

Die zwei sind verbunden: 'Wenn wir langsamer machen, gewinnt China' ist das Hauptargument, das amerikanische Labs und Regierungsbeamte gegen verbindliche Regulierung verwenden. Der äußere Wettlauf ist die beste Ausrede für den inneren; beende den globalen Wettlauf, und der inländische verliert seine Deckung.

Die guten Nachrichten sind, dass keins ein einfaches Gefangenendilemma ist, bei dem die beste Strategie für jeden Spieler ist, abzubrechen, egal was andere tun, und dass die einzige Lösung nicht notwendigerweise eine Art globale Regulierungsmonster ist. Stattdessen ähneln beide Probleme mehr dem, was Theoretiker als 'Stag Hunt' bezeichnen, nach einer Parabel von Jean-Jacques Rousseau.

Eine Gruppe Jäger geht auf einen Hirsch aus. Es braucht alle, um ihn zu jagen, und er wird sie alle tagelang ernähren. Unterwegs sieht jeder Jäger einen Hasen und überlegt, ihn zu fangen. Der Hafe ist eine dünne Mahlzeit, aber eine sichere. Aber wenn auch nur ein Jäger aufgibt, um einen Hasen zu jagen, entkommt der Hirsch, und die anderen gehen hungrig nach Hause. Niemand in der Gruppe bevorzugt den Hasen. Ein Jäger nimmt ihn nur, nachdem er den Glauben verloren hat, dass die anderen in der Quest nach dem Hirsch standhaft bleiben.

Hier ist der Hirsch ein Fortschritt an der Spitze, der lang genug regulatorisch ist, um sicher zu sein; der Hase ist der Vorsprung, den ein einzelnes Lab oder ein einzelnes Land durch alleiniges Handeln nehmen kann. Ein Lab oder ein Land, das seinen Rivalen vertraut, würde besser tun, zusammen mit ihnen langsamer zu machen, da eine gemeinsame Verlangsamung mehr wert ist als ein temporärer Vorsprung, der alle ruinieren könnte, einschließlich des Leaders.

Der Ausweg aus einem Stag Hunt ist nicht Zwang, sondern ein Versicherungsmechanismus. Wenn jeder Spieler glauben kann, dass die anderen an ihrem Posten bleiben und, noch besser, beobachten, wie sie an ihrem Posten bleiben, verliert die Angst, die die Gruppe auseinanderreißt, ihre Wirkung.

Der Fortschritt an der Spitze muss nicht unter einer einzigen Weltmacht stehen, um verlangsamt und kontrolliert zu werden. Aber er braucht Versicherung, und Versicherung erfordert zwei Dinge: Verifizierung und ein Zeuge, der für alle Parteien glaubwürdig ist.

Das Erste nimmt bereits Gestalt an. Die unabhängigen Prüfer, die Anthropic und OpenAI versprochen haben, würden mit mitarbeiterähnlichem Zugang in die Systeme an der Spitze schauen und berichten können, ob ein Lab sein Tempo einhält. Aber Prüfer, die von den Labs engagiert sind und gegen Risikoschwellen urteilen, die die Labs selbst definieren, können einen Rivalen nicht beruhigen, geschweige denn eine rivalisierende Regierung.

Beweise ändern, was die Jäger übereinander glauben, nur wenn sie an jemanden fließen, den keiner von ihnen kontrolliert und der den Standard gesetzt hat, gegen den gemessen wird.

Was also braucht es, um alle Spieler in Richtung kooperatives Gleichgewicht zu lenken? Eine Körperschaft mit genug moralischer Autorität, um ein offensichtlicher Koordinationspunkt zu sein, und mit politischer Legitimität, um die Bedingungen der Kooperation festzulegen, den Verifizierungsprozess zu koordinieren und die Reputationskosten für jede Form des Abbruchs zu erhöhen.

Welche bestehende Körperschaft hat solche moralische Autorität und politische Legitimität in der Welt heute? Der offensichtliche Kandidat sind die Vereinten Nationen, die das Nächste sind, was wir für einen ständigen Zeugen der weltweiten Angelegenheiten haben. Aber die VN sind hier kein neutraler Beobachter: Sie sind strukturell mit den Mächten verflochten, deren Rivalität den Wettlauf antreibt. Der Sicherheitsrat gewährt Washington und Beijing je ein Veto über die Institution, die sie refereieren soll.

Noch tiefer sind die VN aus Nationalstaaten aufgebaut und sprechen in ihrer Stimme und Sprache. Sie sind eine Versammlung von Souveränen, nicht eine Körperschaft, die über Souveränität stehen und sie gegen die Interessen der Menschheit abwägen kann.

Wenn nicht die VN, dann wer? Ein Anwärter hat einen stärkeren Anspruch als jede Institution, in dieser Frage und vielen anderen: die Menschheit selbst, deren Interessen und tatsächlich Überleben wesentlich davon abhängen, ob der Wettlauf ungebremst weitergeht oder gezähmt wird.

Nur die Menschheit steht über KI-CEOs, den Regierungen in Washington und Beijing, anderen konkurrierenden Ländern, internationalen Expertengremien und sogar den VN in ihrer Glaubwürdigkeit zu sagen 'Stopp!' oder 'Langsamer!' oder 'Wir wollen, dass KI das macht, aber nicht das.' Das liegt daran, dass das Interesse der Menschheit universell und nicht durch einzelne nationale oder unternehmerische Interessen verwässert ist.

KI-CEOs erkennen die Ansprüche der Menschheit offen an. Im März 2023 und in mehreren Interviews seitdem legte Altman ein 'Traumszenario' dar, in dem jede Person auf der Erde zusammenkommt und einen wirklich durchdachten