Wie man kein Teil der Wut im Internet wird

Online-Angriffe sind nicht nur deshalb gefährlich, weil sie den Ruf einer Person oder einer Organisation kaputt machen. Wenn es nur das wäre, wäre es nur eine normale Medien-Krise. Gefährlicher ist: Online-Angriffe benutzen heute KI-Werkzeuge und echte Nutzer. So verändern sie, wie die Gesellschaft Meinungen bildet, wie Menschen ihre Meinung sagen und wie sie am öffentlichen Leben teilnehmen. Stürme von Kritik und Bot-Netzwerke, die Wut steuern, machen den öffentlichen Diskussions-Raum kaputt.

Die Opfer von gesteuerten Meinungs-Kampagnen

In einem gesunden öffentlichen Raum kämpfen verschiedene Meinungen mit Argumenten, Beweisen und Überzeugung. Aber wenn Netzwerke die Verteilung von Informationen steuern, hängt es davon ab, wie gut eine Meinung Signale für den Algorithmus machen kann. Eine Meinung, die der Algorithmus vielen Nutzern zeigt, sieht schnell so aus, als würden viele Menschen sie unterstützen. Das ist aber ein Missverständnis.

Diese Veränderung ist besonders gefährlich, weil Menschen ihr Verhalten oft danach richten, was sie glauben, was andere denken. Die Forschung von Kristina Lerman zur Illusion des Konsenses zeigt: Wenn die Netzwerk-Struktur verzerrt ist, kann eine Minderheits-Meinung für sehr viele Menschen so aussehen, als wäre sie die Meinung der Mehrheit [1].

Dank KI-Technologie ist die Manipulation der Massen-Psychologie auf sozialen Netzwerken professioneller geworden. Illustration: Shutterstock

Wenn die Wahrnehmung von der "Mehrheits-Meinung" verzerrt ist, gibt es eine weitere Folge: Menschen verändern ihre eigene Stimme. Forscher nennen das den "Chilling Effect" oder "Effekt des Schweigens".

Eine Umfrage des amerikanischen PEN-Verbandes mit mehr als 230 Journalisten und Schriftstellern, die Opfer von Online-Belästigung waren, zeigt das deutlich: 37,2 % sagen, sie vermeiden es, über bestimmte Themen im Netz zu schreiben, weil sie Angst vor neuen Angriffen haben. 64,3 % haben soziale Medien eine Zeit lang nicht mehr benutzt. 16,4 % haben ihr Konto komplett gelöscht [2]. Der Verband sagt: Online-Belästigung schadet nicht nur den direkten Opfern. Sie schafft auch ein Umfeld, in dem andere Menschen freiwillig weniger sagen, um nicht das nächste Ziel zu werden.

Auf der Ebene von Organisationen kann eine Kampagne mit Ein-Stern-Bewertungen, ein Hashtag zum Boykott oder ein Gerücht zur richtigen Zeit dafür sorgen, dass ein Unternehmen in wenigen Tagen Kunden, Partner und den Wert seiner Marke verliert. Selbst wenn die Information später korrigiert wird, bleiben Spuren des Angriffs in Suchmaschinen, in sozialen Netzwerken und in der Erinnerung der Menschen.

Der größte Schaden ist aber vielleicht der Schaden für die ganze Gesellschaft. Wenn gesteuerte Kampagnen immer wieder Wellen von Meinungen erzeugen, lernt die Öffentlichkeit, die Wichtigkeit eines Ereignisses nach der Lautstärke im Internet zu beurteilen. Themen mit vielen Interaktionen gelten automatisch als die dringendsten Probleme. Komplexe Themen, die aber keine starken Gefühle machen, verlieren Aufmerksamkeit.

Auch der Journalismus ist davon betroffen. Im Wettbewerb um Schnelligkeit und Klicks sind Themen, die im Internet einen "Sturm" auslösen, besonders attraktiv. Wenn Medien nicht vorsichtig sind, machen sie aus Signalen von gesteuerten Netzwerken einen Hinweis auf das "Interesse der Öffentlichkeit". So verstärken sie die Verstärkungs-Schleife, die die Manipulatoren gestartet haben. Deshalb sagen Marwick und Lewis: Medien-Manipulation ist nicht nur ein Problem der digitalen Plattformen, sondern ein Problem des ganzen modernen Informations-Systems [3].

Man sieht also: Gesteuerte Meinungs-Kampagnen schaffen nicht nur einzelne Opfer. Sie bauen langsam die Umgebung um, in der die Gesellschaft ihre Vorstellung von Wahrheit, von Konsens und von wichtigen Themen bildet.

Eine Abwehr für die digitale Gesellschaft aufbauen

Gesteuerte Kampagnen entstehen durch die Kombination von Menschen, Bots und Algorithmen. Deshalb gibt es keine einzelne Lösung, die sie beenden kann. Viele Länder haben gehofft, es reicht, Bots zu löschen. Aber später haben sie verstanden: Dieser Kampf ist nicht wie das Löschen von Computer-Viren. Jedes Mal, wenn eine neue Methode zur Erkennung kommt, ändern die manipulativen Netzwerke schnell ihre Arbeitsweise, um nicht entdeckt zu werden.

Heute muss man nicht nur fragen, ob eine Information wahr ist, sondern auch, warum diese Information so sichtbar wird. Foto: Towfiqu barbhuiya / Pexels

Deshalb helfen technische Werkzeuge heute vor allem bei der frühen Erkennung, nicht beim kompletten Löschen von Bots. Systeme wie Botometer von der Indiana Universität (USA) können hunderte verschiedene Zeichen analysieren und einschätzen, wie wahrscheinlich ein Konto ein Bot ist. Einige Forschungsgruppen erstellen auch "Köder-Konten". Diese Konten posten nur sinnlose Inhalte, um Bots anzulocken, die automatisch folgen. So finden die Forscher das ganze Netzwerk dahinter [4]. Je besser man versteht, wie Bots arbeiten, desto besser können Plattformen sie stoppen, bevor eine Manipulations-Kampagne beginnt.