Nicht Teil der Wut im Netz werden

Ohne neue Denk-Gewohnheiten können Personen und auch Medien schnell Teil von einem Netzwerk werden, das die Meinung im Netz steuert.

Angriffe im Netz sind nicht nur deshalb gefährlich, weil sie den Ruf von einer Person oder einer Firma kaputt machen. Das allein ist nur eine Medien-Krise. Noch gefährlicher ist etwas anderes: Die Angriffe benutzen KI und echte Nutzer. Sie verändern, wie die Gesellschaft eine Meinung bildet, eine Ansicht zeigt und am öffentlichen Leben teilnimmt. Viele wütende Kommentare und Bot-Netzwerke machen die öffentliche Diskussion kaputt.

Die Opfer von gesteuerten Meinungs-Kampagnen

In einem gesunden öffentlichen Raum gibt es viele verschiedene Meinungen. Sie kämpfen mit Argumenten, Beweisen und Überzeugung. Aber wenn Netzwerke die Information steuern, ist die Sichtbarkeit anders: Eine Meinung ist oft sichtbar, weil sie gute Signale für den Algorithmus macht. Wenn der Algorithmus eine Meinung sehr oft zeigt, denken viele Menschen falsch: Diese Meinung haben sehr viele Menschen.

Das ist besonders gefährlich, weil Menschen ihr Verhalten anpassen. Sie schauen, was andere denken. Die Forscherin Kristina Lerman spricht von der Illusion von Zustimmung. Sie zeigt: Wenn das Netzwerk falsch ist, kann eine Minderheits-Meinung für viele Menschen wie die Mehrheits-Meinung aussehen.

Wenn das Bild von der "Mehrheits-Meinung" falsch ist, passiert noch etwas: Die Menschen werden still. Forscher nennen das den "Chilling Effect", also einen Effekt, der still macht.

Eine Umfrage vom amerikanischen PEN-Verband zeigt das. Mehr als 230 Journalisten und Schriftsteller waren Opfer von Belästigung im Netz. 37,2 Prozent sagen: Sie schreiben zu manchen Themen nichts mehr im Netz, weil sie Angst vor neuen Angriffen haben. 64,3 Prozent machen eine Pause von Social Media. 16,4 Prozent löschen ihr Konto ganz. Der Verband sagt: Belästigung im Netz schadet nicht nur den direkten Opfern. Sie macht auch ein Klima, in dem andere Menschen weniger sprechen, weil sie nicht das nächste Ziel sein wollen.

Für Firmen kann eine Kampagne mit schlechten 1-Stern-Bewertungen, ein Hashtag für Boykott oder ein Gerücht zur richtigen Zeit sehr schlimm sein. In wenigen Tagen verliert die Firma Kunden, Partner und den Wert der Marke. Auch wenn die Information später korrigiert wird, bleiben Spuren in Suchmaschinen, in Social Media und in der Erinnerung der Menschen.

Aber der größte Schaden ist für die ganze Gesellschaft. Wenn gesteuerte Kampagnen immer wieder Wellen von Meinung machen, lernt die Öffentlichkeit etwas Falsches: Ein Thema ist wichtig, wenn es im Netz sehr laut ist. Themen mit vielen Likes gelten als die dringendsten Probleme. Aber schwierige Themen ohne starke Gefühle bekommen keine Aufmerksamkeit mehr.

Auch die Presse leidet unter dieser Veränderung. Im Kampf um Tempo und Klicks sind Themen, die im Netz "explodieren", sehr attraktiv. Wenn die Presse nicht vorsichtig ist, macht sie einen Fehler: Sie hält ein Signal von gesteuerten Netzwerken für das "Interesse der Öffentlichkeit". So hilft sie, die Verstärkung weiter zu machen, die die Manipulatoren gestartet haben. Darum sagen Marwick und Lewis: Manipulation von Medien ist nicht nur ein Problem der Plattformen. Es ist ein Problem vom ganzen Informations-System heute.

Man kann also sehen: Gesteuerte Meinungs-Kampagnen machen nicht nur einzelne Opfer. Sie verändern langsam die Umgebung, in der die Gesellschaft Wahrheit, Zustimmung und wichtige Themen versteht.

Ein "Immunsystem" für die digitale Gesellschaft bauen

Die Kampagnen kommen von Menschen, Bots und Algorithmen zusammen. Darum gibt es keine einzelne Lösung, die sie stoppen kann. Viele Länder dachten zuerst: Es reicht, die Bots zu löschen. Aber später sehen sie: Dieser Kampf ist nicht wie das Löschen von Computer-Viren. Wenn eine neue Methode zur Erkennung kommt, ändern die Netzwerke schnell ihre Arbeit und verstecken sich.

Darum helfen technische Werkzeuge heute vor allem, Bots früh zu finden, nicht alle Bots zu löschen. Ein System wie Botometer von der Indiana Universität in den USA kann hunderte Zeichen analysieren. Es schätzt, wie wahrscheinlich ein Konto ein Bot ist. Manche Forscher machen auch "Lockvogel"-Konten. Diese Konten posten nur sinnlose Inhalte. Sie locken Bots an, die automatisch folgen. So finden die Forscher das ganze Netzwerk dahinter. Je besser man versteht, wie Bots arbeiten, desto besser können Plattformen sie stoppen, bevor eine Kampagne startet.

Aber Bots posten heute nicht nur automatisch. Sie können chatten, auf Kommentare antworten, den Tages-Rhythmus von Menschen kopieren und mit echten Nutzer-Konten zusammen arbeiten. Darum nutzen viele Forscher wieder etwas, das Computer nicht gut können: die Intuition von Menschen. In manchen Tests schauen viele Menschen zusammen ein verdächtiges Konto an. Dann stimmen sie ab: Ist das ein Mensch oder ein Bot? Menschen sind besser als Maschinen bei sehr kleinen Details. Sie erkennen unnatürliche Gespräche, seltsame Reaktionen oder kleine Wiederholungen, die der Algorithmus nicht sieht.

Aber Bots zu finden ist nur die halbe Geschichte. Genauso wichtig ist: Nutzern helfen, Information zu prüfen. Taiwan ist hier ein Vorreiter. Statt nur falsche Inhalte zu löschen, hat eine Gruppe von Programmierern einen LINE-Bot mit dem Namen "Ist das wahr?" gemacht. Wenn ein Nutzer einen verdächtigen Artikel schickt, gibt der Bot ein Prüf-Ergebnis mit Gegen-Quellen zurück. Interessant ist: Hinter dem Bot ist nicht nur ein Algorithmus, sondern auch eine Gemeinschaft von freiwilligen Redakteuren. Sie aktualisieren immer die Daten. Allein in den ersten drei Monaten bekommt das System mehr als 5.000 Anfragen zur Prüfung.

Neben technischen Lösungen ändern viele Länder auch die Regeln. Nach der Wahl im Jahr 2017 macht Deutschland das Netzwerkdurchsetzungsgesetz, kurz NetzDG. Es gibt den Plattformen mehr Verantwortung für illegale Inhalte in ihrem System. Zur gleichen Zeit gibt es Vorschläge: Bot-Konten markieren, automatische Konten für politische Zwecke zeigen und mehr Transparenz bei politischer Werbung im Netz. Diese Politik hat eine gemeinsame Idee: Der Kampf gegen Manipulation ist nicht nur die Aufgabe der Nutzer. Auch die Plattformen müssen Verantwortung teilen, weil sie entscheiden, welche Information sich verbreitet.