Die Logos von verschiedenen Social Media Apps sind auf dem Display eines Smartphones zu sehen. | REUTERS
Exklusiv

Social-Media-Plattformen Im Kampf gegen Manipulation gescheitert

Stand: 27.04.2022 08:00 Uhr

Wer in den sozialen Medien Zustimmung erkauft, täuscht die Öffentlichkeit. Eine neue NATO-Studie zeigt, wie Plattformen noch immer beim Kampf dagegen scheitern - auch wenn es klare Unterschiede gibt.

Von Daniel Laufer, rbb

Die wichtigsten Social-Media-Konzerne haben erhebliche Probleme dabei, zu erkennen, wenn ihre Plattformen manipuliert werden - zu diesem Schluss kommt das NATO-Exzellenzzentrum für Strategische Kommunikation (COE) in Riga in einer neuen Studie. Sie liegt dem ARD-Politikmagazin Kontraste vor.

Das COE untersuchte, wie konsequent die Plattformen gegen sogenanntes nicht authentisches Verhalten vorgehen. Dazu zählen Likes und Kommentare, die man bereits für wenig Geld kaufen kann. Solche Manipulationen erzeugen Zerrbilder, sie sollen die Öffentlichkeit täuschen. Winzige Accounts können zu scheinbaren Meinungsführern aufgepumpt, abseitigste Beiträge mit Likes und Kommentaren überhäuft werden. Das suggeriert Zustimmung für Nischenpositionen.

Zerrbilder von Nischenpositionen

Die Studie zeigt zum Teil deutliche Unterschiede zwischen den Plattformen. Doch die Erkenntnisse, die sie im Bericht "Social Media Manipulation 2021" festhält, sind insgesamt vernichtend: Mit im Durchschnitt 96 Prozent waren fast alle bestellten Interaktionen auch vier Wochen später noch online.

Nutzerkonten, von denen Manipulationen ausgegangen waren, löschten die Plattformen äußerst zögerlich. Von den daran beteiligten Accounts, die die Analysten den Plattformen zum Test gemeldet hatten, löschten die Plattformen im Schnitt nur jeden zwanzigsten.

279 Euro für fiktive Reichweite

Für ihr Experiment arbeiteten die Analysten mit der ukrainisch-britischen Datenanalysefirma Trementum zusammen. Sie legten eigene Nutzerkonten an und erstellten englischsprachige Beiträge, die sie mit gekauften Likes und Kommentaren verstärken ließen. "Unsere Eingriffe sind aus ethischen Gründen so konzipiert, dass sie geringe Auswirkungen haben und harmlos sind", schreibt das COE in seinem Bericht.

Für insgesamt 279 Euro erhielten die Analysten rund 21.000 Interaktionen auf Facebook, für Instagram, YouTube, Twitter, TikTok und dem in Deutschland vergleichsweise unbedeutenden Netzwerk VK - außerdem rund 93.000 Aufrufe. Der Dienst Telegram, der für das verschwörungsideologische Milieu eine große Rolle spielt, war nicht Teil des Experiments.

Politisches Waffenarsenal

Der innerhalb von sechs Wochen im Herbst 2021 - also noch vor dem Ukraine-Krieg - erhobene Datensatz erlaubte es dem COE, 9846 Nutzerkonten zu ermitteln, über die Manipulationen erfolgt waren. Dies ermöglichte es den Analysten wiederum, die Aktivitäten der Manipulationsnetzwerke für mutmaßliche andere Auftraggeber nachzuvollziehen. Plattformübergreifend wurden laut dem NATO-Bericht Inhalte zu verschiedenen Finanzdienstleistungen verstärkt, auch Prominente versuchten offenbar, ihr Image aufzupeppen.

In zahlreichen Fällen sollen Social-Media-Manipulationen auch zu offenkundig politischen Zwecken eingesetzt worden sein. Von auf Bestellung erzeugter Aufmerksamkeit profitierten demnach zum Beispiel der Leiter einer saudischen Regierungsbehörde, ein ehemaliger ukrainischer Präsident und eine russische Denkfabrik für Außenpolitik - geleitet von einem Duma-Abgeordneten der faktischen Putin-Partei "Einiges Russland".

Das COE geht davon aus, dass solche Methoden auch zum Waffenarsenal staatlicher Akteure gehören. Der Ukraine-Krieg etwa habe gezeigt, dass koordinierte Kampagnen in den sozialen Medien für Russland ein bedeutendes Instrument sind. Umso wichtiger sei es, das Informationsumfeld zu verteidigen.

Nicht alle sind gleich schlecht

Die Analysten wollten zum einen wissen, in welchem Umfang die Plattformen nicht authentische Interaktionen von allein erkennen können - zum anderen, wie entschlossen die Plattformen gegen solche vorgehen. Dazu meldeten sie selbst Nutzerkonten, die sie als verdächtig identifiziert hatten.

Auf Twitter waren von diesen Accounts fünf Tage nach ihrer Meldung noch immer 98 Prozent aktiv. Nach vier Wochen waren nur noch 83 Prozent der nicht authentischen Interaktionen online - in dieser Kategorie der beste Wert unter den untersuchten Plattformen. Ein Twitter-Sprecher teilte auf Anfrage mit, man sei über die wichtigsten Ergebnisse der Studie informiert worden und begrüße, so mehr über die eigene Arbeit zu erfahren.

Auf TikTok waren nach fünf Tagen noch 96 Prozent der gemeldeten Accounts auffindbar, nach vier Wochen aber immerhin nur noch 85 Prozent der nicht authentischen Interaktionen. Der Konzern gab an, den NATO-Bericht am Freitag erhalten zu haben - äußerte sich jedoch nicht zu dessen Inhalt.

1,7 Milliarden Kontenlöschungen bei Facebook und Instagram

Bei Facebook waren nach fünf Tagen noch 90 Prozent der gemeldeten Accounts online, nach vier Wochen noch 99 Prozent der nicht authentischen Interaktionen - bei Instagram nach fünf Tagen sogar 99 Prozent der gemeldeten Accounts, aber nur noch 96 Prozent der Interaktionen. Beide Plattformen gehören zum Social-Media-Konzern Meta. Wie die unterschiedlichen Erfolgsquoten beim Kampf gegen Manipulationen zu erklären sind, dazu äußerte sich ein Sprecher auf Anfrage nicht. Im vierten Quartal 2021 hat Meta nach eigenen Angaben insgesamt 1,7 Milliarden Konten entfernt.

Auf YouTube waren nach vier Wochen nur noch 92 Prozent der nicht authentischen Interaktionen vorhanden. Von den zu Testzwecken gemeldeten Accounts entfernte die Plattform innerhalb der ersten fünf Tage jedoch keinen einzigen. Hiermit konfrontiert, schrieb ein YouTube-Sprecher: "Wir können leider keinen Kommentar abgeben zu einer Studie, die nicht mit uns geteilt wurde." Er betonte zugleich, man nehme jeden Missbrauch der eigenen Systeme sehr ernst.

NATO-Bericht fordert Verbot

Dass die Social-Media-Plattformen ohne fremde Unterstützung in der Lage sein werden, Manipulationen zu bekämpfen, schließen die Analysten aus. Stattdessen brauche es eine branchenweite Lösung. Im NATO-Bericht heißt es, Zahlungsanbieter wie Visa und Mastercard sollten Überweisungen an die Manipulationsindustrie einstellen.

Gefordert wird auch, dass der Gesetzgeber den Verkauf nicht authentischer Interaktionen verbietet. Die Bundesregierung selbst verspürt hier offenbar wenig Handlungsbedarf: Das Justizministerium teilte auf Kontraste-Anfrage mit, federführend zuständig für den Umgang mit Desinformation sei das Auswärtige Amt. Dieses verwies auf den sogenannten Digital Services Act der Europäischen Union, der politische Werbung regulieren soll. Das Vorhaben ziele unter anderem darauf ab, Manipulationen in sozialen Netzwerken zu unterbinden.