2026年8月14日

KI braucht bald Feedback von vielen Menschen

AI sắp cần phản hồi của số đông

来源：Noema

本文已针对德语学习者进行翻译和简化，原文内容版权归 Noema 所有。

KI braucht bald Feedback von vielen Menschen

选中单词或短语即可查词、翻译、高亮或添加笔记。

阅读进度

第 1/16 段

先读德语原文，需要时可展开任意段落下方的翻译。

Macario Schettino schreibt in der Zeitschrift Noema über Medien und Geschichte. Er sagt: Jede große Veränderung in der Kommunikation war am Anfang ein Problem. Aber später hat dieselbe Technologie das Problem gelöst. Das war so bei der Druckerpresse, bei Zeitungen, bei TV und Radio. So wird es auch bei Social Media und KI sein.

Wir leben heute sehr schnell. Aber die Lösung kommt nicht über Nacht. Schettino erinnert: Die Reformation hat 131 Jahre bis zum Westfälischen Frieden gebraucht. Die Aufklärung hat noch länger gebraucht. Der Wechsel zu Massenmedien hat zwei Weltkriege und einen Kalten Krieg gebracht, bevor eine neue stabile Ordnung kam. Der Wechsel zu Social Media ist noch sehr jung. In jeder Zeit war die Krise der Grund, um mit der Technologie einen neuen Konsens zu finden.

Er erklärt das Muster: Die Druckerpresse hat zuerst die alte Welt im Mittelalter kaputt gemacht, mit vielen kleinen Streitschriften. Dann hat sie langsam eine neue Welt gebaut, mit Büchern, wissenschaftlichen Texten und Enzyklopädien. Die Presse, die die alte Kirche kaputt gemacht hat, hat später die Aufklärung gebracht.

Die frühe Zeitung im 18. Jahrhundert hat die revolutionäre Stimmung stärker gemacht und das alte System gestürzt. Die reife Zeitung im 19. Jahrhundert, von 1815 bis 1914, war dann ein täglicher Begleiter für Bürger in einer stabilen Demokratie.

Die Massenmedien in der Zeit zwischen den Weltkriegen — Propaganda-Filme und die Radio-Stimme von Demagogen — haben starke Emotionen gemacht. Totalitäre Systeme haben diese Emotionen benutzt. Die Massenmedien nach dem Krieg — Fernsehen, regulierter Journalismus und die Abendnachrichten — haben dann ein ruhigeres nationales Gespräch gebracht. Das brauchte die Nachkriegsordnung.

In jedem Fall gilt: Was am Anfang die Öffentlichkeit geteilt hat, hat später in einer reiferen Form die Öffentlichkeit wieder aufgebaut. Wenn dieses Muster bleibt, dann lösen wir das Problem von Social Media nicht, wenn wir Social Media verlassen. Wir lösen es mit der nächsten Version von Social Media, geformt von Künstlicher Intelligenz. Wir sind jetzt noch in der chaotischen Phase. Diese Phase ist wie die Zeit der Religionskriege oder wie die Zeit des Radios der Demagogen. Die Verbindung von KI und sozialen Plattformen kann das Chaos größer machen. Aber sie ist auch die beste Chance, das Chaos später zu beruhigen. Die neue gemeinsame Ordnung kommt nicht trotz dieser Technologien. Sie kommt durch diese Technologien.

Die Infrastruktur gibt es schon

Die Herausforderung heute ist größer als bei früheren Medien-Umbrüchen. Unsere Gesellschaften sind global und sehr stark vernetzt. Generative KI macht diese Vernetzung noch stärker. Diese Infrastruktur verändert sich noch. Sie ist gleichzeitig der Ort des Konflikts und der Ort für die Lösung.

Die allgemeine Öffentlichkeit muss mitreden. Denn ihre Informationen werden durch Algorithmen in die Produktivität der Zukunft verwandelt. Für einen sozialen Konsens müssen die Menschen mitbestimmen, wie die Technologie benutzt wird.

Hélène Landemore schreibt auch in Noema darüber. Sie nennt Zahlen:

OpenAI hatte im Februar 900 Millionen aktive ChatGPT-Nutzer pro Woche und im Juni mehr als eine Milliarde Nutzer pro Monat.
Google ging von 400 Millionen auf mehr als 900 Millionen aktive Gemini-Nutzer pro Monat in einer ähnlichen Zeit.
Meta AI hatte auch eine Milliarde monatliche Nutzer.

Keine Regierung, kein Sender und keine internationale Organisation hatte je einen direkten Kontakt zu so vielen Menschen gleichzeitig in beide Richtungen. Diese Firmen haben die besten KI-Modelle. Sie können normalen Menschen wichtige Fragen stellen, zum Beispiel: Was soll diese Technologie für euch tun? Was soll sie niemals tun dürfen? Wer soll diese Technologie steuern und nach welchen Prinzipien? Das ist kein Gedankenexperiment. Die Infrastruktur, um hunderten Millionen Menschen in derselben Woche dieselbe Frage zu stellen, gibt es schon.

Im Moment können vielleicht nicht gewählte Politiker diese globale Diskussion am besten organisieren, sondern die Chefs der Firmen, die diese Technologie bauen.

Aber große Sprachmodelle (LLMs) allein können nicht die Interessen der ganzen Menschheit vertreten. Ihre Trainingsdaten haben Grenzen. Landemore nennt eine Untersuchung von The Economist. Die Untersuchung vergleicht die Werte von 25 modernen KI-Modellen mit den Werten aus dem World Values Survey (WVS). Der WVS hat Menschen in 88 Ländern befragt. Das Ergebnis: Die Modelle haben oft extremere Werte als der durchschnittliche Mensch in diesen 88 Ländern. Manchmal sind sie säkularer oder individualistischer als jede Gesellschaft auf der Erde. Und sie machen die moralische Vielfalt der Welt kleiner. Wenn wir die globale Meinung nur durch solche Modelle filtern, wird die globale Basis sehr eng und kommt nur aus einer kleinen kulturellen Ecke.

Wie bei anderen KI-Prozessen gibt es bei diesen Modellen Halluzinationen, falsche Eindrücke und fehlende Informationen. Techniker nennen die Korrektur dafür „Reinforcement Learning from Human Feedback“ — Lernen mit Feedback von Menschen. Für die ganze Gesellschaft heißt das: Wir brauchen öffentliche Diskussion. Bis jetzt ist das nur ein Thema für die Big-Tech-Eliten und ihre Algorithmen.

Landemore sagt: Das echte Problem ist Repräsentativität und Verantwortung. Deshalb brauchen wir eine gemischte Lösung. Wir brauchen einen mehrjährigen Prozess mit Diskussionen zwischen Menschen, mit Argumenten und Begründungen. Dazu kommt eine Beratung mit Hilfe von LLMs. Die LLM-Beratung ist nicht perfekt, aber sie ist schnell und gibt einen guten Startpunkt. Diese gemischte Lösung kann in drei Ebenen mit verschiedener Geschwindigkeit arbeiten. Jede Ebene gibt etwas dazu, was die schnellste Ebene allein nicht hat: einen unabhängigen Bericht, um den Prozess zu kontrollieren, und mehr verschiedene Köpfe, um Fehler zu finden.

Landemore erklärt ihren Ansatz: Die erste Ebene ist eine globale Beratung mit Hilfe von LLMs. Sie kann in wenigen Monaten einen ersten Entwurf machen: eine minimale Erklärung, die ein großer Teil der Weltbevölkerung unterstützt. Dort steht, was die Menschen von dieser Technologie wollen.

查看完整越南语翻译

Trên tạp chí Noema, Macario Schettino viết về lịch sử truyền thông. Ông cho rằng mọi bước ngoặt lớn trong cách con người liên lạc ban đầu đều gây xáo trộn. Nhưng sau đó, chính công nghệ tạo ra rắc rối lại trở thành lời giải. Điều từng đúng với máy in, với báo giấy, với phát thanh và truyền hình rồi cũng sẽ đúng với mạng xã hội và trí tuệ nhân tạo.

Cuộc sống hôm nay trôi rất nhanh, nhưng lời giải không đến sau một đêm. Schettino nhắc lại: cuộc Cải cách tôn giáo phải mất 131 năm mới đi đến Hòa ước Westphalia. Phong trào Khai sáng còn kéo dài lâu hơn nữa. Quá trình chuyển sang truyền thông đại chúng đã đi qua hai cuộc thế chiến và một cuộc Chiến tranh Lạnh mới hình thành được trật tự ổn định. Mạng xã hội vẫn còn rất non trẻ. Ở mỗi giai đoạn, khủng hoảng chính là chất xúc tác để con người dùng công nghệ tìm ra đồng thuận mới.

Ông phác họa quy luật như sau:

Máy in ban đầu phá vỡ thế giới cũ thời Trung cổ bằng vô số tờ truyền đơn nhỏ lẻ. Rồi từ từ, nó dựng nên một thế giới mới với sách vở, công trình khoa học và bách khoa toàn thư. Cỗ máy từng làm lung lay giáo hội cũ sau này lại mở đường cho Khai sáng.

Báo chí sơ khai ở thế kỷ 18 khuấy động tinh thần cách mạng và góp phần lật đổ chế độ cũ. Đến thế kỷ 19, giai đoạn 1815 đến 1914, báo chí trưởng thành trở thành người bạn hằng ngày của công dân trong nền dân chủ ổn định.

Truyền thông đại chúng giai đoạn giữa hai cuộc thế chiến — những bộ phim tuyên truyền và giọng nói trên radio của các kẻ mị dân — khuấy động cảm xúc mãnh liệt. Các chế độ toàn trị đã lợi dụng làn sóng đó. Sau chiến tranh, truyền thông đại chúng mang diện mạo khác: truyền hình, báo chí vận hành theo chuẩn mực và bản tin buổi tối giúp cuộc trò chuyện chung của cả nước trở nên điềm tĩnh hơn. Chính không khí đó nuôi dưỡng trật tự hậu chiến.

Điểm chung là: thứ từng chia rẽ dư luận lúc ban đầu, khi chín muồi lại góp phần hàn gắn dư luận. Nếu quy luật này vẫn đúng, chúng ta sẽ không giải được bài toán mạng xã hội bằng cách rời bỏ nó. Lời giải nằm ở phiên bản kế tiếp của mạng xã hội, được định hình bởi trí tuệ nhân tạo. Hiện tại chúng ta vẫn đang ở pha hỗn loạn, giống thời chiến tranh tôn giáo hay thời radio của những kẻ mị dân. Việc kết hợp AI với nền tảng xã hội có thể khiến hỗn loạn trầm trọng hơn. Nhưng đó cũng là cơ hội tốt nhất để sau này lập lại yên ổn. Trật tự chung mới sẽ không xuất hiện bất chấp các công nghệ này. Nó sẽ ra đời nhờ chính chúng.

Hạ tầng đã có sẵn

Thách thức hôm nay lớn hơn những lần chuyển đổi truyền thông trước. Xã hội hiện nay mang tính toàn cầu và kết nối chặt chẽ. AI tạo sinh khiến mức độ kết nối càng sâu hơn. Hạ tầng này vẫn đang biến đổi. Nó vừa là nơi xung đột bùng phát, vừa là nơi có thể tìm ra lời giải.

Công chúng nói chung cần được tham gia. Bởi thông tin của họ đang được thuật toán chuyển thành năng suất của tương lai. Muốn đạt đồng thuận xã hội, người dân phải có tiếng nói về cách công nghệ được dùng.

Hélène Landemore cũng viết về chủ đề này trên Noema. Bà đưa ra vài con số:

OpenAI có 900 triệu người dùng ChatGPT hoạt động mỗi tuần vào tháng 2 và hơn một tỷ người dùng mỗi tháng vào tháng 6.
Google tăng từ 400 triệu lên hơn 900 triệu người dùng Gemini hoạt động mỗi tháng trong khoảng thời gian tương tự.
Meta AI cũng có một tỷ người dùng hằng tháng.

Chưa từng có chính phủ, đài phát thanh truyền hình hay tổ chức quốc tế nào có thể tiếp cận trực tiếp hai chiều với số lượng người lớn đến vậy cùng một lúc. Các công ty này đang sở hữu những mô hình AI mạnh nhất. Họ có thể đặt cho người dùng phổ thông những câu hỏi cốt lõi, chẳng hạn: công nghệ này nên làm gì cho bạn? Điều gì tuyệt đối không được phép làm? Ai nên kiểm soát công nghệ và theo nguyên tắc nào? Đây không phải thí nghiệm tưởng tượng. Hạ tầng để hỏi cùng một câu với hàng trăm triệu người trong cùng một tuần đã tồn tại.

Lúc này, người có khả năng tổ chức cuộc thảo luận toàn cầu tốt nhất có khi không phải chính trị gia được bầu, mà là lãnh đạo các công ty đang tạo ra công nghệ.

Nhưng riêng các mô hình ngôn ngữ lớn (LLM) không thể đại diện cho lợi ích của cả nhân loại. Dữ liệu huấn luyện của chúng có giới hạn. Landemore dẫn một nghiên cứu của The Economist. Nghiên cứu so sánh hệ giá trị của 25 mô hình AI hiện đại với kết quả khảo sát World Values Survey (WVS). WVS đã hỏi người dân ở 88 nước. Kết quả cho thấy mô hình thường có quan điểm cực đoan hơn mức trung bình của người dân ở 88 nước đó. Có lúc chúng thể hiện xu hướng thế tục hay đề cao cá nhân hơn bất kỳ xã hội nào trên thực tế. Và chúng làm thu hẹp sự đa dạng về đạo đức trên thế giới. Nếu chỉ lọc ý kiến toàn cầu qua những mô hình như vậy, nền tảng chung sẽ rất hẹp và chỉ phản ánh một góc văn hóa nhỏ.

Như nhiều quy trình AI khác, các mô hình này cũng gặp hiện tượng bịa đặt, tạo ấn tượng sai và thiếu thông tin. Giới kỹ thuật gọi cách khắc phục là “học tăng cường từ phản hồi của con người” — Reinforcement Learning from Human Feedback. Ở cấp độ xã hội, điều đó có nghĩa là chúng ta cần thảo luận công khai. Cho đến nay, đây vẫn chỉ là câu chuyện của giới tinh hoa Big Tech và thuật toán của họ.

Landemore cho rằng vấn đề cốt lõi là tính đại diện và trách nhiệm giải trình. Vì vậy cần một giải pháp kết hợp. Cần một quá trình nhiều năm, nơi mọi người trực tiếp tranh luận, nêu lý lẽ và giải thích quan điểm. Song song là một vòng tham vấn có sự hỗ trợ của LLM. Tham vấn bằng LLM không hoàn hảo, nhưng nhanh và tạo được điểm khởi đầu tốt. Giải pháp kết hợp này có thể vận hành ở ba tầng với tốc độ khác nhau. Mỗi tầng bổ sung thứ mà tầng nhanh nhất một mình không có: một báo cáo độc lập để giám sát quá trình, và nhiều góc nhìn đa dạng hơn để phát hiện sai sót.

Landemore giải thích cách tiếp cận của mình: tầng đầu tiên là tham vấn toàn cầu có LLM hỗ trợ. Chỉ trong vài tháng, tầng này có thể đưa ra bản thảo đầu tiên: một tuyên bố tối thiểu được đông đảo người trên thế giới ủng hộ. Trong đó nêu rõ mọi người muốn gì ở công nghệ này.

KI braucht bald Feedback von vielen Menschen

Die Infrastruktur gibt es schon

Hạ tầng đã có sẵn

接着读

阅读自测

KI wird nicht von allein böse

Die Zeit von Bleh: Wenn alle die gleiche KI benutzen

Die Menschen sollen den KI-Fortschritt bestimmen

Warum China bei KI die Führung übernimmt