Wie man sich gegen Online-Manipulation schützt

Online-Angriffskampagnen sind nicht nur gefährlich, weil sie den Ruf einer Person oder Organisation zerstören. Wenn es nur darum ginge, wären sie nur eine Art Kommunikationskrise. Besorgniserregender ist, dass solche Kampagnen mit KI-Tools und echten Nutzern die Art und Weise verändern, wie Menschen Meinungen bilden, Ansichten äußern und am öffentlichen Leben teilnehmen. Stürme der Kritik und Bot-Netzwerke, die Wut verbreiten, verzerren den öffentlichen Diskurs.

Opfer von Kampagnen zur Meinungssteuerung

In einem gesunden öffentlichen Raum konkurrieren verschiedene Meinungen mit Argumenten, Beweisen und Überzeugungskraft. Wenn Netzwerke die Verbreitung von Informationen kontrollieren, hängt die Sichtbarkeit einer Meinung davon ab, wie gut sie Signale an Algorithmen sendet. Eine Meinung, die Algorithmen häufiger zeigen, wird leicht als die Meinung vieler Menschen missverstanden.

Diese Veränderung ist gefährlich, weil Menschen ihr Verhalten oft danach richten, was sie denken, was andere denken. Die Forschung von Kristina Lerman über die Illusion der Zustimmung zeigt: Wenn die Netzwerkstruktur verzerrt ist, kann eine Minderheitsmeinung vielen Menschen wie die vorherrschende Meinung erscheinen. [1]

Dank KI-Technologie ist die Manipulation der Massenpsychologie auf sozialen Plattformen professioneller geworden. (Bildunterschrift)

Wenn die Wahrnehmung der "Mehrheitsmeinung" verzerrt ist, entsteht ein weiterer Effekt: Menschen passen ihre eigene Stimme an. Forscher nennen das den "Chilling-Effekt".

Laut einer Umfrage des amerikanischen PEN-Clubs unter mehr als 230 Journalisten und Autoren, die Opfer von Online-Belästigung wurden, gaben 37,2 % zu, bestimmte Themen zu vermeiden, aus Angst vor weiteren Angriffen. 64,3 % mussten eine Pause von sozialen Medien machen, und 16,4 % löschten ihre Konten komplett. [2] Der Verband sieht das als Beweis, dass Online-Belästigung nicht nur direkten Opfern schadet, sondern auch andere dazu bringt, weniger zu sagen, um nicht das nächste Ziel zu werden.

Auf Organisationsebene können eine Ein-Stern-Kampagne, ein Hashtag zum Boykott oder ein Gerücht, das zur richtigen Zeit verbreitet wird, dazu führen, dass Unternehmen Kunden, Partner und Markenwert in wenigen Tagen verlieren. Selbst wenn die Informationen später korrigiert werden, bleiben Spuren in Suchmaschinen, sozialen Medien und im Gedächtnis der Öffentlichkeit. Der größte Schaden ist jedoch für die Gesellschaft. Wenn Kampagnen ständig Wellen der öffentlichen Meinung erzeugen, gewöhnen sich die Menschen daran, die Wichtigkeit eines Ereignisses an der Lautstärke in sozialen Medien zu messen. Themen mit vielen Interaktionen gelten als dringend, während komplexe, aber emotionslose Probleme ignoriert werden.

Auch die Presse ist betroffen. Im Wettbewerb um Geschwindigkeit und Klicks sind Themen, die in sozialen Medien "wellen schlagen", besonders attraktiv. Wenn die Presse nicht vorsichtig ist, kann sie die Signale von Steuerungsnetzwerken als "öffentliches Interesse" interpretieren und so die Verstärkungsschleife weiterdrehen. Das ist ein Grund, warum Marwick und Lewis sagen, dass Medienmanipulation nicht nur ein Problem der Plattformen ist, sondern des gesamten Informationsökosystems. [3]

Zusammengefasst: Kampagnen zur Meinungssteuerung schaffen nicht nur einzelne Opfer. Sie verändern die Umgebung, in der die Gesellschaft Wahrheit, Konsens und wichtige Themen wahrnimmt.

Ein "Immunsystem" für die digitale Gesellschaft aufbauen

Wenn Kampagnen aus Menschen, Bots und Algorithmen bestehen, gibt es keine einzelne Lösung. Viele Länder hofften, Bots einfach zu löschen. Aber je mehr sie lernen, desto klarer wird: Dieser Kampf ist nicht wie das Entfernen von Computerviren. Jede neue Erkennungsmethode führt dazu, dass Manipulationsnetzwerke ihre Methoden ändern.

Heute sind technische Werkzeuge eher zur Früherkennung da, nicht zum "Wegfegen" von Bots. Systeme wie Botometer von der Indiana University (USA) analysieren Hunderte von Merkmalen, um die Wahrscheinlichkeit zu schätzen, dass ein Konto ein Bot ist. Einige Forscher erstellen auch "Köder"-Konten, die nur sinnlose Inhalte posten, um Bots anzulocken und so das Netzwerk dahinter zu finden. [4] Je besser wir Bots verstehen, desto besser können Plattformen sie stoppen, bevor eine Kampagne beginnt.

Aber Bots sind heute nicht mehr nur einfache Programme. Sie werden oft von echten Menschen unterstützt, die bewusst oder unbewusst helfen, Inhalte zu verbreiten. Deshalb reicht es nicht, nur Bots zu bekämpfen. Wir müssen auch verstehen, wie Menschen in diese Netzwerke eingebunden werden.

Ein wichtiger Schritt ist die Medienkompetenz. Menschen sollten lernen, Informationen kritisch zu prüfen: Wer steckt hinter einer Nachricht? Warum wird sie gerade jetzt verbreitet? Welche Interessen könnten dahinterstecken? Auch die Presse muss vorsichtiger sein und nicht alles verbreiten, was in sozialen Medien trendet.

Plattformen müssen transparenter machen, wie Algorithmen Inhalte auswählen. Wenn Nutzer verstehen, warum sie bestimmte Inhalte sehen, können sie besser einschätzen, ob eine Meinung wirklich populär ist oder nur künstlich verstärkt wird.

Schließlich braucht es auch rechtliche Regeln. Viele Länder haben Gesetze gegen Hassrede und Desinformation, aber die Durchsetzung ist schwierig. Internationale Zusammenarbeit ist nötig, weil Manipulation oft über Grenzen hinweg organisiert wird.

Am Ende geht es darum, eine Art "Immunsystem" für die Gesellschaft aufzubauen. Das bedeutet: nicht nur technische Lösungen, sondern auch Bildung, kritisches Denken und verantwortungsvolle Medien. Nur so können wir verhindern, dass wir zu Werkzeugen von Manipulationskampagnen werden.