Wie Bot-Netzwerke Wut im Internet steuern

Teil 2: Um nicht versehentlich ein Glied in der Kette der Wut zu werden

Dank eines unerwarteten "Nebeneffekts" der KI-Technologie ist die Manipulation der "Massenpsychologie" auf Social-Media-Plattformen zu einem professionellen Dienstleistungssektor geworden. Sie erzeugt, was die Öffentlichkeit für eine natürliche Reaktion der Gesellschaft hält.

Wut wird absichtlich erzeugt

Anfang 2016 veröffentlichte der Rechtsprofessor Benjamin Perrin von der University of British Columbia einen Kommentar auf Twitter zum Hashtag #GoodRiddanceHarper. Dieses Thema war sehr umstritten, nachdem der kanadische Premierminister Stephen Harper zurückgetreten war. Zuerst gab es nur eine negative Reaktion von einem anderen Konto. Aber nach ein paar Stunden bekam der Kommentar plötzlich mehr als tausend Likes und Shares. Er wurde schnell zur wichtigsten Meinung in der Diskussion.

Nach einer Untersuchung fand Perrin heraus, dass diese vielen Reaktionen nicht von einer natürlichen Welle der Kritik kamen. Sie wurden von Netzwerken aus automatischen Programmen (Bots) verstärkt. Diese Bot-Netzwerke können Millionen von falschen Interaktionen erzeugen. Damit täuschen sie die Algorithmen der Plattformen über die Beliebtheit eines Inhalts. Perrin warnte: Wenn solche Techniken weiter wachsen, können sie ein wirksames Werkzeug werden, um kritische Stimmen im Internet zu belästigen und unwirksam zu machen [1].

Das Internet bringt uns näher zusammen, nur Sekunden nach einem Tastendruck, aber wir verstehen oft nicht, woher die Wellen der Wut kommen. Bild: Yan Krukau/Pexels

Das Wichtige in dieser Geschichte ist nicht die Zahl der Konten, die Professor Perrin angriffen. Wichtig ist, wie eine kleine Reaktion verstärkt wurde, sodass es aussah, als würde die ganze Gemeinschaft ihn ablehnen. In dieser Situation können Nutzer, die in die Diskussion kommen, schwer unterscheiden, was echte Wut der Öffentlichkeit ist und was das Ergebnis einer organisierten Kampagne ist.

Seit vielen Jahren erklären wir es als spontane Reaktion der "Masse", wenn eine Person, ein Unternehmen oder eine Organisation plötzlich im Zentrum eines Shitstorms steht. Diese Sichtweise wird immer ungenauer.

Forschung im Bereich digitaler Medien zeigt: Viele Online-Angriffskampagnen sind heute keine spontanen Reaktionen der Gemeinschaft. Sie sind das Ergebnis einer absichtlichen Zusammenarbeit von automatischen Werkzeugen, kontrollierten Konten und echten Nutzern. Dieses Phänomen nennt man computational propaganda (digitale Propaganda) [2]. Um erfolgreich zu sein, kombinieren solche Kampagnen oft Medienmanipulation. Das heißt, sie nutzen die Arbeitsweise des Mediensystems aus, damit eine Botschaft stärker verbreitet wird, mehr Aufmerksamkeit bekommt und schließlich wie ein wichtiges gesellschaftliches Ereignis aussieht [3]. Diese Erkenntnisse zeigen eine wichtige Veränderung: In der früheren Massenkommunikation lag die Macht vor allem in der Fähigkeit, Inhalte zu produzieren. In der digitalen Welt geht die Macht mehr und mehr an die Fähigkeit, Aufmerksamkeit zu steuern.

Das Ökosystem der Medienmanipulation

Von außen sieht ein Online-Angriff oft sehr plötzlich aus. Eine umstrittene Aussage, ein manipuliertes Video oder ein negativ interpretierter Artikel bekommt nach wenigen Stunden Zehntausende Kommentare, Shares und Boykott-Aufrufe. Der erste Eindruck ist: "Die Masse ist wütend." Aber in Wirklichkeit kann dahinter eine ganze Kette stehen, die in mehreren Schichten organisiert ist. Menschen, Algorithmen und automatische Werkzeuge arbeiten zusammen, um das zu erzeugen, was die Öffentlichkeit für eine natürliche Reaktion der Gesellschaft hält.

PhoneFarm ist ein Werkzeug hinter Diensten, die Aufrufe und Interaktionen auf Social-Media-Plattformen erhöhen. Im Bild: Eine Farm, die Aufrufe erhöht, mit einem kompletten PhoneFarm-System, das über Software auf einem Computer gesteuert wird. Autor: Đức Hùng

Es gibt keine einzelne "Zentrale" hinter allen Kampagnen. Forschung über digitale Propaganda und Medienmanipulation zeigt: Viele verschiedene Akteure nutzen dieselbe Infrastruktur zur Steuerung der öffentlichen Meinung. Das können Unternehmen für Schwarze PR sein, die gegen Bezahlung Krisen managen oder Konkurrenten schlecht machen. Es können wirtschaftliche Interessengruppen sein, die den Ruf von Konkurrenzunternehmen manipulieren wollen. Es können politische Netzwerke sein, die die öffentliche Meinung beeinflussen wollen. Oder es sind Online-Gemeinschaften, die mobilisiert werden, um eine bestimmte Agenda voranzutreiben.

Ein typisches Beispiel: In Polen hat eine geheime PR-Firma (mit dem Decknamen The Firm) in zehn Jahren ein riesiges Ökosystem aufgebaut. Sie schuf über 40.000 falsche Identitäten und Hunderttausende Social-Media-Konten mit eigenen IP-Adressen und Persönlichkeiten, um die öffentliche Meinung zu manipulieren [4]. In der Ukraine nutzten Konzerne von Oligarchen wie Rinat Akhmetov Bot-Netzwerke, um den Informationsraum im Land zu beeinflussen [5]. In den USA finanzierte der Milliardär und Hedgefonds-Manager Robert Mercer die Seite Breitbart News, um gleichzeitig wirtschaftliche und ideologische Ziele zu verfolgen und Informationskrieg zu führen.