App-Logos der Internetportale Facebook, Twitter und YouTube | dpa
Exklusiv

Analyse zu Online-Plattformen "Big Tech als Radikalisierungsmotor"

Stand: 13.01.2022 06:38 Uhr

Die großen Online-Plattformen bekommen Hass-Inhalte und Desinformation offenbar weiterhin nicht in den Griff. Eine Datenanalyse zeigt, wie Desinformation vorgeschlagen und Hatespeech teilweise geduldet wird.

Von Patrick Gensing, tagesschau.de

Die Debatte um die mangelnde Rechtsdurchsetzung auf Telegram sei wichtig, dürfe jedoch nicht von der Verantwortung großer Plattformbetreiber wie Meta und YouTube ablenken. Das schreibt die Organisation reset.tech in einer Analyse mit dem Titel "Big Tech als Radikalisierungsmotor". Reset ist eine Initiative, die sich für eine strengere Regulierung der großen Technologie-Konzerne einsetzt.

Reset verweist dabei auf die Whistleblowerin Frances Haugen, die enthüllt hatte, dass Metas Leitungsebene empirische Befunde über die Risiken von Facebook und Instagram systematisch ignorierte. Belege hatten dem Management beispielsweise über den Zusammenhang zwischen Instagram und Essstörungen unter Minderjährigen vorgelegen, aber auch über die radikalisierende und polarisierende Wirkung von Facebooks Algorithmen rund um die Welt.

Dieses Problem ist seit Jahren bekannt und belegt. tagesschau.de hatte bereits 2015 berichtet, wie Facebook durch seine Vorschläge Nutzerinnen und Nutzer schnell in ein rechtsextremes Milieu führen kann.

Reichweite von Desinformation vervielfacht

Diese automatisierten Empfehlungssysteme von Facebook oder YouTube hätten seit Beginn der Pandemie die Reichweite von Desinformation und Verschwörungserzählungen vervielfacht, schreibt Reset - und so würden "radikale Positionen vom Rand der Gesellschaft in den Mainstream der Debatte" getragen. Ein Beispiel ist der russische Staatssender RT DE, der vor der Sperrung seiner YouTube-Kanäle zu einer der wichtigsten Quellen der Corona-Leugner und "Querdenker"-Szene geworden war.

Analysen von Reset zeigen: Sucht man nach Schlagworten wie "Impf", schlägt Facebook den Beitritt zu Impfgegner-Gruppen vor, in denen Desinformation und verschwörungsideologische Inhalte vielfach geteilt werden. Auch auf Instagram tauchen bei diesen Stichworten schnell Profile auf, die beispielsweise gefälschte Impfpässe verkaufen.

Screenshot von Facebook mit Suchvorschlägen zum Begriff "Impfausweis" | Facebook

Screenshot von Facebook mit Suchvorschlägen zum Begriff "Impfausweis" Bild: Facebook

Im November 2021 wurde zum Beispiel eine Instagram-Seite aus den Niederlanden, die gefälschte Impfpässe anbot, bei Instagram gemeldet. Als Rückmeldung teilte das Unternehmen mit, es sei nicht ersichtlich, dass diese gegen die Richtlinien verstieße.

Profit durch Desinformation

Eine Recherche von tagesschau.de zeigte zudem, dass Facebook mit irreführenden Inhalten zu Covid-19 Geld verdient und entsprechende Anzeigen zuließ - entgegen der eigenen Richtlinien. Ähnliches war bereits Anfang 2021 zu beobachten gewesen.

Mehr Hass auf AfD- als auf "Querdenker"-Seiten

Reset kritisiert in seinem Bericht, der tagesschau.de vorab vorliegt, das Vorgehen von Facebook gegen Hass-Inhalte sei nicht konsistent. Als Beispiel wird eine Datenanalyse aufgeführt, in der Seiten von "Querdenkern" und der AfD untersucht werden. Ausgewertet wurden dabei rund 1000 Facebook-Seiten und -Gruppen mit fast zwei Millionen Kommentaren. Reset filterte aus diesen Quellen mehrere Zehntausend Hass-Kommentare und bewertete diese im Hinblick auf ihre Aggressivität und ob es sich um Drohungen oder Beleidigungen handele.

Dabei stellte Reset fest: Hassrede und Gewaltaufrufe finden sich insgesamt deutlich häufiger auf Seiten der AfD, als etwa auf Seiten der "Querdenken"-Gruppen. Dennoch sei Facebook bislang fast nur gegen "Querdenken"-Gruppen vorgegangen, ließ Seiten der AfD jedoch unbehelligt - "obwohl diese eine vielfach höhere Reichweite erzielen und mehr radikale und strafbare Inhalte beherbergen", so Reset. Viele der Hass-Inhalte seien auch schon lange online, stellten die Fachleute fest.

Kommentare von öffentlichen Facebook-Seiten der AfD | Facebook/ AfD

Kommentare von öffentlichen Facebook-Seiten der AfD Bild: Facebook/ AfD

Zudem gebe es eine große Überschneidung bei den Nutzerinnen und Nutzern: Die Analyse ergab, dass 45 Prozent der Follower von "Querdenken"-Seiten auch auf Profilen der AfD aktiv waren. 32 Prozent der NPD-Follower waren ebenfalls auf Seiten der AfD aktiv.

"Bereiten den Boden für Radikalisierung"

Felix Kartte von Reset sagte in Gespräch mit tagesschau.de, selbstverständlich sei Telegram ein Problem. Aber die ganz großen Plattformen "bereiten doch erst den Boden für Radikalisierung in der Pandemie und machen ein viel größeres Publikum für demokratiefeindliche Ideen zugänglich".

Auf Anfrage von tagesschau.de zu der Kritik von Reset teilte eine Meta-Sprecherin mit: "Seit Beginn der Pandemie ist es unser Ziel, verlässliche Informationen über Covid-19 zu verbreiten, entschieden gegen Falschinformationen vorzugehen und die Menschen zur Impfung zu ermutigen. Wir suchen und entfernen fortlaufend Inhalte und deaktivieren Konten, Seiten oder Gruppen, die gegen unsere Gemeinschaftsrichtlinien verstoßen und arbeiten kontinuierlich daran, unsere Technologie zu verbessern, um ein sicheres Erlebnis auf unseren Plattformen zu gewährleisten und schädliche Inhalte von Instagram und Facebook fernzuhalten."

Über dieses Thema berichtete Deutschlandfunk am 14. Januar 2022 um 17:50 Uhr.