Wie normale Menschen bei der KI-Entscheidung mitreden können

Im Juli unterschrieben mehr als 200 Ökonomen und KI-Forscher – darunter 17 Nobelpreisträger – eine Erklärung mit dem Titel „Wir müssen jetzt handeln“. Sie ist nur vier Sätze lang. Nach der Warnung, dass „KI innerhalb eines Jahrzehnts radikal mächtiger werden könnte“ – und eine Veränderung auslösen könnte, die die Industrielle Revolution an Umfang übertrifft, aber viel schneller abläuft, mit Massenarbeitslosigkeit als einem der Risiken – ruft sie zum Handeln auf: „Ökonomen, Politiker und Technologieführer müssen jetzt handeln, um die Ökonomie der transformativen KI zu verstehen und die Anreize, Schutzmaßnahmen und Institutionen zu schaffen, die nötig sind, um KI in eine Richtung zu lenken, die den Menschen ergänzt und der Gesellschaft nützt.“ All das ist wahr. Bemerkenswert ist nicht, wozu die Erklärung aufruft, sondern was – oder besser: wen – sie auslässt. Die Erklärung ruft nur Ökonomen, Politiker und Technologieführer zusammen. Die Gesellschaft erscheint nur einmal – als Nutznießer, nicht als Teilnehmer an der Veränderung, die die Unterzeichner fordern.

Ihre Erklärung fasst mehr als ein Jahr zunehmend dringlicher Prognosen zusammen. „KI 2027“, ein viel gelesener Essay, der im April 2025 vom KI-Zukunftsprojekt veröffentlicht wurde, bot einen detaillierten, Monat für Monat ablaufenden Bericht darüber, wie ein Wettlauf zur Superintelligenz bis Ende 2027 tatsächlich ablaufen könnte – mit einer realen Chance auf katastrophalen Verlust menschlicher Kontrolle. „Europa 2031“, ein ähnlicher Fünf-Jahres-Prognose-Essay, der im Juni veröffentlicht wurde, konzentrierte sich auf Europa, und das Bild war genauso beunruhigend: Die Region mit 5 % der weltweiten Rechenleistung, einem Grenzlabor und Regulierungsbehörden, die nicht einmal die Werkzeuge benutzen dürfen, die sie regulieren sollen, hat bis Ende des Sommers Zeit, ihre KI-Politik zu ändern, oder sie wird in ein paar Jahren technologisch und wirtschaftlich bedeutungslos sein.

Der erste Essay behandelt die Öffentlichkeit als eine Bevölkerung, die vor einer Katastrophe geschützt werden muss, die Eliten in ihrem Namen managen. Der zweite behandelt die Öffentlichkeit als ein Publikum, das bestenfalls hinter einem Plan mobilisiert werden soll, der in Brüssel und in den Vorstandsetagen einiger weniger europäischer Länder entschieden wurde. Die zugrunde liegende Annahme in beiden Texten ist identisch: Eine kleine Anzahl von Menschen trifft Entscheidungen für alle anderen, ohne deren Input. Keiner der Essays fragt, was normale Menschen wirklich von dieser Technologie wollen, oder schlägt einen Weg vor, das herauszufinden.

Untergangsstimmung und Wettbewerbsangst sind schreckliche Organisationsprinzipien. Was Menschen bewegt, ist eine positive Geschichte, bei deren Schreiben sie mitgewirkt haben: Wofür KI eigentlich da ist, erzählt in Begriffen, die sie aus ihrem eigenen Leben kennen – ihre Arbeit, ihre Kinder, ihre Städte. Das Warum und das Wie sind genauso wichtig wie die Aufforderung, sich unter den Großmächten sorgfältig abzustimmen oder viel Geld für Chips und Rechenzentren auszugeben. Ob die Gefahr eine KI ist, die der menschlichen Kontrolle entgleitet, oder Souveränität, die den Regierungen entgleitet, die Lösung ist dieselbe: Mehr Menschen, nicht weniger, müssen ein Mitspracherecht haben, bevor wichtige Entscheidungen getroffen werden.

Wenn wir ein paar Jahre Zeit hätten, um die Risiken von KI zu mindern, wäre der richtige Schritt ein globaler, persönlicher deliberativer Prozess, der in so vielen Ländern wie möglich organisiert wird, aufbauend auf den besten Praktiken der deliberativen Demokratie und gipfelnd in einer globalen Bürgerversammlung, idealerweise kombiniert mit lokalen Volksabstimmungen, wie Andrew Sorota, Audrey Tang und ich vor einiger Zeit gefordert haben. Aber wir haben vielleicht nicht so viel Zeit. Wie die Erklärung vom letzten Monat sagte: „Wir müssen jetzt handeln.“ Also sollten wir sofort das Nächstbeste tun: eine globale öffentliche Konsultation abhalten, die hauptsächlich online läuft, weil das das einzige Format ist, das schnell genug ist.

Unsere einzige plausible Option, dies zu erreichen, ist die Nutzung der wenigen KI-Plattformen, die bereits eine solche Reichweite haben. OpenAI meldete im Februar 900 Millionen wöchentlich aktive ChatGPT-Nutzer und überschritt im Juni eine Milliarde monatliche Nutzer. Google stieg von 400 Millionen auf mehr als 900 Millionen monatlich aktive Gemini-Nutzer in einem ähnlichen Zeitraum. Meta AI meldete ebenfalls eine Milliarde monatliche Nutzer. Keine Regierung, kein Rundfunksender und keine internationale Organisation hatte jemals gleichzeitig einen dauerhaften, wechselseitigen Kontakt zu einem so großen Teil der Menschheit.

Die besten Modelle dieser Unternehmen zu nutzen, um normalen Menschen dringende Fragen zu KI zu stellen – Was möchtest du, dass diese Technologie für dich tut, wenn überhaupt? Was sollte sie niemals tun dürfen? Wer sollte diese Technologie regieren und nach welchen Prinzipien? – ist kein Gedankenexperiment über hypothetische Fähigkeiten. Die Infrastruktur, um Hunderte Millionen Menschen oder mehr in derselben Woche dieselbe Frage zu stellen, existiert bereits.

„Ob die Gefahr eine KI ist, die der menschlichen Kontrolle entgleitet, oder Souveränität, die den Regierungen entgleitet, die Lösung ist dieselbe: Mehr Menschen, nicht weniger, müssen ein Mitspracherecht haben, bevor wichtige Entscheidungen getroffen werden.“

Zusammen sollten die besten KI-Modelle in der Lage sein, so etwas wie eine globale Verfassung für KI zu produzieren, die die meisten Menschen auf der Welt akzeptabel finden würden – eine Idee, die Michiel Bakker, ein Co-Autor von „Europa 2031“, erstmals in einer Arbeitssitzung beim Superintelligenz-Gipfel im März im Council on Foreign Relations vorschlug. Das ist eine seltsame, aber reale Option: Gerade jetzt sind die Personen, die am besten in der Lage sind, eine globale Deliberation über KI zu ermöglichen, möglicherweise nicht gewählte Führer und Regierungschefs, sondern die Chefs der Unternehmen, die diese Technologie bauen.

Natürlich hätte jedes Dokument, das durch KI-Modelle auf der Grundlage des Inputs eines massiven, aber möglicherweise nicht repräsentativen Teils der Menschheit erstellt wird, eine begrenzte Legitimität. Aber jede Verfassungstradition, die wir heute als legitim betrachten, begann mit einem Ausschluss, der mindestens so schwerwiegend war. Die meisten frühen demokratischen Verfassungen wurden von Männern für Männer geschrieben, Frauen waren einfach nicht im Raum. Wir haben diese Verfassungen nicht rückwirkend für ungültig erklärt; wir haben auf ihnen aufgebaut und den Ausschluss im Laufe der Zeit korrigiert. KI-Synthesizer sind auch keine neutralen Instrumente. Ein