Soziale Medien Facebook Twitter und YouTube | dpa
Hintergrund

Debatte über Desinformation Bedrohen Social Bots die Demokratie?

Stand: 22.04.2020 14:58 Uhr

In der Debatte über versuchte Manipulationen rund um den UN-Migrationspakt warnt Justizministerin Barley vor Social Bots. Diese bedrohten die Demokratie. Doch sind wirklich Bots das Problem?

Von Patrick Gensing, ARD-faktenfinder

In der Debatte über einen massenhaften Einsatz von Social Bots in der Diskussion über den UN-Migrationspakt hat Bundesjustizministerin Katarina Barley gewarnt, der Fall werfe ein Schlaglicht darauf, wie organisierte Falschmeldungen Debatten beeinflussen können. "Die Betreiber sozialer Netzwerke müssen ihrer Verantwortung gerecht werden und entschieden gegen Fake-Accounts vorgehen", sagte Barley den Zeitungen der Funke Mediengruppe. Social Bots seien eine Gefahr für die Demokratie.

Patrick Gensing tagesschau.de

Auch die stellvertretende Vorsitzende der Unionsfraktion, Nadine Schön, forderte Plattformbetreiber wie Twitter angesichts der Botswatch-Recherchen auf, für mehr Transparenz zu sorgen. "Den Nutzern muss eindeutig klar sein, ob ein Mensch oder ein Social Bot einen Tweet oder einen Post veröffentlicht hat", sagte Schön.

Massenhaft Blog-Inhalte verbreiten

Social Bots sind Programme, mit denen beispielsweise Twitter-Konten automatisiert gesteuert werden. Ein Beispiel ist das Profil von "Alt-Right Europe", das im Februar 2017 eingerichtet wurde. Seitdem setzte "Alt-Right Europe" knapp 56.000 Tweets ab - durchschnittlich also fast 90 am Tag. Als ein Hinweis auf eine automatisierte Steuerung gilt die Schwelle von mindestens 50 Tweets am Tag.

Schaut man sich die Inhalte von "Alt-Right Europe" an, fällt sofort auf: Das Konto verbreitet fast ausschließlich Inhalte anderer Seiten. Darunter finden sich "Brexit"-Meldungen des britischen Tabloid "Daily Express" sowie Artikel von rechtsradikalen Blogs wie "PI-news", "Voice of Europe", "Infowars" oder "Gates of Vienna".

Screenshot Website Alt-Right Europe

Social Bot: "Alt-Right Europe" twittert fast ausschließlich automatisiert.

Auch die Videos bestimmter YouTube-Kanäle twittert "Alt-Right Europe" offenkundig automatisiert, unter anderem von dem britischen Aktivisten Tommy Robinson. Der "Guardian" hatte vor wenigen Tagen offengelegt, wie der rechtsradikale Aktivist von einem internationalen Netzwerk unterstützt wird - unter anderem durch eine Twitter-Kampagne.

Rund um die Uhr aktiv

Eine Auswertung mit "Foller.me" liefert weitere Hinweise darauf, dass es sich bei "Alt-Right Europe" um einen Social Bot handelt: Demnach werden die Inhalte in 99 von 100 Beispielen mit dem Tool "Feed2Tweet" erzeugt - das heißt, sie werden von vorher festgelegten Seiten übernommen. Außerdem antwortet "Alt-Right Europe" fast nie auf andere Tweets. Und: "Alt-Right Europe" twittert rund um die Uhr. Ein weiterer wichtiger Hinweis auf automatisiertes Verhalten.

Auch das Analyse-Tool "Botometer" kommt zu dem Ergebnis, dass "Alt-Right Europe" mit hoher Wahrscheinlichkeit automatisiert twittert.

"Alt-Right Europe" gibt auf dem Twitter-Profil eine gleichnamige Facebook-Präsenz an, die wiederum von einem Aktivisten in den USA verwaltet wird. Bei dem Projekt handelt es sich also offenkundig um einen Versuch, die "Alt-Right"-Bewegung von den USA aus in Europa zu stärken.

Unterschiedliche Ergebnisse

"Alt-Right Europe" versucht dabei gar nicht, wie ein Mensch mit anderen Nutzern zu kommunizieren und lässt sich relativ leicht als Bot identifizieren. Ähnliche Seiten, die quasi ausschließlich retweeten, lassen sich ebenfalls leicht und zahlreich finden - insbesondere im Umfeld von AfD-Konten. Allerdings werden diese Accounts von Analyse-Tools nicht unbedingt als Bots eingestuft, beispielsweise, weil sie nicht so hyperaktiv sind wie "Alt-Right Europe" und nicht rund um die Uhr twittern. Oder weil sie mit Textbausteinen auf Anfragen antworten. Oder weil sie einen hybriden Charakter haben - also teilweise automatisiert gefüttert, aber zeitweise von Hand gepflegt werden.

Und so kommen Analyse-Tools bei der Bewertung solcher Profile zu unterschiedlichen Ergebnissen. Um diese fundiert beurteilen zu können, sind die Kriterien zur Definition von Bots entscheidend. Auch, um unterschiedliche Analysen miteinander vergleichen zu können.

"Automatisiert und in Echtzeit"

Das Erkennen von Bots erfordert zumeist also eine genaue Analyse, da viele Bot-Tools nur Hinweise liefern können. Wie "Botswatch" bei der Untersuchung zum UN-Migrationspakt konkret vorgegangen ist, ist öffentlich nicht nachvollziehbar. Auf Anfrage des ARD-faktenfinder verwies Geschäftsführerin Tabea Wilke auf die Website des Unternehmens. Dort heißt es, Botswatch sei "in der Lage, automatisiert und in Echtzeit Social Bots und manipulative Netzwerke in sozialen Medien und auf digitalen Plattformen zu finden".

Zur Definition heißt es, man verstehe Social Bots "als Accounts, die mit einem überdurchschnittlich hohen Grad an Automation im Social Web arbeiten". Im Sommer 2016 habe Botswatch einen "eigenen Kriterienkatalog für die Bot Detection entwickelt", der seitdem laufend aktualisiert werde.

Außerdem erklärte Wilke, die Auswertungen seien "ein Ergebnis aus der automatisierten Erkennung und den Analysen unserer Analysten. Damit verbinden wir neueste Technologien und smarten Code mit der Erfahrung und Intelligenz unserer Analysten." 

Kritik an Untersuchung

Neben einer breiten Berichterstattung über die Untersuchung gibt es aber auch Fragen zu dem Vorgehen. Der Datenjournalist Michael Kreil erkundigte sich in einem offenen Brief nach der Möglichkeit, die Daten und Ergebnisse von Botswatch zu überprüfen.

Netzpolitik.org kritisierte, bei der Studie von Botswatch sei die Methodik nicht bekannt. Mehrfache Anfragen "nach den vollen oder auszugsweisen Studienergebnissen und der zugrundeliegenden Methodik wurden bislang nicht beantwortet".

Und der Datenspezialist Luca Hammer sagte im Gespräch mit dem ARD-faktenfinder, er halte es für problematisch, dass "ein echtes Problem - Menschen betreiben Accounts, um Falschmeldungen zu verbreiten - als etwas anderes dargestellt wird - nämlich Bots beeinflussen die Gesellschaft".

Welchen Einfluss haben Bots?

Die Fähigkeiten von Social Bots bleiben bislang beschränkt: Sie können bestimmte Inhalte verbreiten und Relevanz oder Zustimmung simulieren. Sie können zudem Stimmungsbilder manipulieren, indem sie zu einem Thema besonders viele Tweets absetzen.

Sie können aber weder selbst inhaltlich Themen setzen noch halbwegs sinnvoll auf Fragen antworten. Zwar agieren sie interaktiv, handeln deswegen aber noch lange nicht intelligent. Damit bleibt ihre Wirkung begrenzt. Sie verbreiten vorgegebene Inhalte, flankieren einflussreiche Twitter-Konten und unterstützen so Kampagnen.

Weit wichtiger bei solchen Kampagnen erscheinen anonyme Konten, die massenhaft Inhalte im Sinne der AfD verbreiten und teilweise oder ganz von Hand mit Inhalten bestückt werden. Manche geben sich als Studentinnen mit Namen wie "Dora" oder "Emma" aus und posten viele Stunden täglich Links, Bildcollagen, Grafiken, Zitate und Kommentare - oft zu verschiedenen Themen parallel. Wer die Profile pflegt, bleibt im Dunkeln. Dennoch folgen und retweeten auch namhafte Journalisten solche Konten.

Anonyme Netzwerke sind die Gefahr

Social Bots an sich bedrohen nicht die Demokratie, sondern es handelt sich zunächst erst einmal um Programme, die für Service-Zwecke sinnvoll sein und für politische Propaganda missbraucht werden können.

Weit einflussreicher erscheinen Fake-Accounts und anonyme Netzwerke, die koordiniert agieren, um bestimmte Themen zu setzen, Diskussionen zu kapern und politische Gegner zu diskreditieren. Solche Netzwerke waren bei der US-Wahl 2016 zu beobachten und auch im Bundestagswahlkampf 2017 aktiv. Und sie sind es weiterhin, wie die Kampagne im Netz gegen den UN-Migrationspakt gezeigt hat.