KI braucht öffentliches Feedback, bevor es zu spät ist

Der Buchdruck zerstörte die mittelalterliche Ordnung durch polemische Flugschriften und baute dann langsam eine neue Ordnung auf durch gedruckte Abhandlungen und Enzyklopädien. Die Presse, die die Christenheit spaltete, brachte auch die Aufklärung hervor. Die frühen Zeitungen im 18. Jahrhundert unterstützten die revolutionäre Stimmung, die die alte Regierung stürzte. Die reifen Zeitungen im 19. Jahrhundert wurden der tägliche Begleiter der stabilen Bürgerdemokratie von 1815 bis 1914. Die Massenmedien der Zwischenkriegszeit – Propagandafilme und die Radio-Stimme von Demagogen – erzeugten die künstlichen Emotionen, auf denen die totalitären Systeme beruhten. Die Massenmedien der Nachkriegszeit – Fernsehen, regulierter Journalismus und die Abendnachrichten – schufen das ruhigere nationale Gespräch, das die Nachkriegsordnung brauchte. In jedem Fall hat das, was die öffentliche Sphäre zunächst zerstörte, sie in seiner reiferen Form wieder aufgebaut.

Wenn dieses Muster weiter gilt, wird die Störung durch soziale Medien nicht gelöst, indem man sie aufgibt. Sie wird gelöst durch die nächste Entwicklungsstufe der sozialen Medien, die von künstlicher Intelligenz geprägt ist. Wir sind noch in der chaotischen Phase, die historisch den Religionskriegen oder dem Radio der Demagogen entspricht. Die Verbindung von KI mit sozialen Plattformen könnte das aktuelle Chaos verstärken, aber sie ist auch der wahrscheinlichste Kandidat, um die Unordnung schließlich zu kontrollieren. Der neue übergreifende Rahmen wird nicht trotz dieser Technologien kommen, sondern durch sie.

Die Infrastruktur existiert bereits. Die heutige Herausforderung, die über die Kommunikationsstörungen der Vergangenheit hinausgeht, ist die beispiellose Größe der Vernetzung und die globale Reichweite unserer dicht vernetzten Gesellschaften, die durch generative KI verstärkt wird. Diese bestehende Infrastruktur, die sich noch entwickelt und unruhig ist, ist sowohl das Gebiet des Streits als auch der Boden für Lösungen. Da die allgemeine Öffentlichkeit ihre Informationen durch Algorithmen in die zukünftige Produktivität umgewandelt bekommt, muss sie bei der endgültigen Nutzung mitbestimmen können, wenn es einen gesellschaftlichen Konsens geben soll.

Hélène Landemore schreibt in Noema: OpenAI meldete im Februar 900 Millionen wöchentlich aktive ChatGPT-Nutzer und überschritt im Juni eine Milliarde monatliche Nutzer. Google stieg von 400 Millionen auf mehr als 900 Millionen monatlich aktive Gemini-Nutzer in ähnlicher Zeit. Meta AI meldete ebenfalls eine Milliarde monatliche Nutzer. Keine Regierung, kein Sender und keine internationale Organisation hatte jemals gleichzeitigen, wechselseitigen Kontakt mit einem so großen Teil der Menschheit. Die besten Modelle dieser Unternehmen zu nutzen, um normalen Menschen dringende Fragen über KI zu stellen – Was soll diese Technologie für dich tun? Was soll sie niemals tun dürfen? Wer soll diese Technologie regieren und nach welchen Prinzipien? – ist kein Gedankenexperiment über hypothetische Möglichkeiten. Die Infrastruktur, um Hunderte Millionen Menschen oder mehr in derselben Woche dieselbe Frage zu stellen, existiert bereits.

Momentan sind die Personen, die am besten geeignet sind, eine globale Debatte über KI zu ermöglichen, vielleicht nicht gewählte Führer oder Regierungschefs, sondern die Chefs der Unternehmen, die diese Technologie bauen. Große Sprachmodelle allein können nicht die Interessen der Menschheit vertreten, weil ihre Trainingsdaten begrenzt sind. Landemore erwähnt eine Untersuchung von The Economist, die die Werte von 25 führenden KI-Modellen mit den Werten der World Values Survey (WVS) verglich. Die Studie fand heraus, dass die Modelle oft extremere Werte haben als der durchschnittliche Befragte in den 88 Ländern der WVS – manchmal säkularer oder individualistischer als jede Gesellschaft auf der Erde – und dass sie die moralische Vielfalt der Welt verringern. Wenn wir die Eingaben der Menschheit ungeprüft durch solche Modelle laufen lassen, würde die „globale“ verfassungsmäßige Grundlage riskieren, die einer schmalen kulturellen Ecke zu werden.

Wie bei KI-Prozessen im Allgemeinen brauchen Halluzinationen, falsche Eindrücke und verdeckte Informationen in führenden Modellen das, was Techniker „Verstärkungslernen durch menschliches Feedback“ nennen, als Korrektur. Für die größere Gesellschaft bedeutet das, die öffentliche Debatte in das einzuladen, was bisher das Gebiet der Tech-Eliten und ihrer Algorithmen war. „Das eigentliche Problem ist also eines der Repräsentativität und Rechenschaftspflicht“, argumentiert Landemore. Deshalb sollten wir eine gemischte Lösung annehmen, die einen mehrjährigen deliberativen Prozess, der menschliche Argumente und Begründungen in den Mittelpunkt stellt, auf LLM-vermittelte Konsultationen legt, die einen unvollkommenen, aber schnell verfügbaren und ausreichend reichhaltigen Ausgangspunkt bieten. Dieser gemischte Ansatz könnte in drei Stufen mit unterschiedlicher Geschwindigkeit erfolgen – jede Stufe fügt ein Stück hinzu, das der schnellsten Option allein fehlen würde: eine unabhängige Aufzeichnung für die Rechenschaftspflicht und eine breitere Vielfalt von Köpfen, um zu erkennen, was ein engerer Kreis übersehen würde.

Landemore erklärt ihren Ansatz: Die erste Stufe, eine LLM-vermittelte globale Konsultation, könnte innerhalb von Monaten einen vorläufigen Entwurf erzeugen: eine minimale, breit unterstützte Erklärung, was ein großer Teil der Weltbevölkerung von dieser Technologie will.

(Anmerkung: Der Artikel endet hier, daher endet auch die deutsche Version.)