Der Facebook-Schriftzug an einer Wand. | Bildquelle: AP

Auswertung von Daten Wie Facebook im Kampf gegen Hass versagt

Stand: 23.06.2020 05:01 Uhr

Facebook geht nach einer Recherche von BR, NDR und WDR immer noch nicht konsequent gegen rechte Hetze auf seiner Plattform vor. Das Projekt #Hassmaschine offenbart Einblicke in eine rechte Schattenwelt - und das Versagen von Facebook.

Von B. Nabben, N. Ringler, R. Schöffel, H. Tanriverdi, M. Zierer, BR, N. Altland, S. Pittelkow, NDR, C. Basl und K. Riedel, WDR

Es geht um Mordaufrufe und Holocaust-Leugnung, es geht um Aufrufe zu schwersten Gewalttaten im Internet - und damit um eines der drängendsten gesellschaftlichen Probleme: Wie kann der Hass im Internet erfolgreich bekämpft werden?

In einer gemeinsamen Auswertung haben Reporterinnen und Reporter von BR, NDR und WDR 2,6 Millionen Posts und Kommentare aus 138 meist geschlossenen rechten Facebook-Gruppen technisch erfasst und analysiert. Die Daten reichen bei einigen Gruppen zurück bis ins Jahr 2010. Sie gewähren den bisher tiefsten Einblick in eine rechte, mitunter rechtsextreme Schattenwelt im weltweit größten sozialen Netzwerk Facebook. 

Robert Schöffel, BR, zur Kritik an Facebook
tagesschau24 11:00 Uhr, 23.06.2020

Download der Videodatei

Wir bieten dieses Video in folgenden Formaten zum Download an:

Hinweis: Falls die Videodatei beim Klicken nicht automatisch gespeichert wird, können Sie mit der rechten Maustaste klicken und "Ziel speichern unter ..." auswählen.

Video einbetten

Nutzungsbedingungen Embedding Tagesschau: Durch Anklicken des Punktes „Einverstanden“ erkennt der Nutzer die vorliegenden AGB an. Damit wird dem Nutzer die Möglichkeit eingeräumt, unentgeltlich und nicht-exklusiv die Nutzung des tagesschau.de Video Players zum Embedding im eigenen Angebot. Der Nutzer erkennt ausdrücklich die freie redaktionelle Verantwortung für die bereitgestellten Inhalte der Tagesschau an und wird diese daher unverändert und in voller Länge nur im Rahmen der beantragten Nutzung verwenden. Der Nutzer darf insbesondere das Logo des NDR und der Tageschau im NDR Video Player nicht verändern. Darüber hinaus bedarf die Nutzung von Logos, Marken oder sonstigen Zeichen des NDR der vorherigen Zustimmung durch den NDR.
Der Nutzer garantiert, dass das überlassene Angebot werbefrei abgespielt bzw. dargestellt wird. Sofern der Nutzer Werbung im Umfeld des Videoplayers im eigenen Online-Auftritt präsentiert, ist diese so zu gestalten, dass zwischen dem NDR Video Player und den Werbeaussagen inhaltlich weder unmittelbar noch mittelbar ein Bezug hergestellt werden kann. Insbesondere ist es nicht gestattet, das überlassene Programmangebot durch Werbung zu unterbrechen oder sonstige online-typische Werbeformen zu verwenden, etwa durch Pre-Roll- oder Post-Roll-Darstellungen, Splitscreen oder Overlay. Der Video Player wird durch den Nutzer unverschlüsselt verfügbar gemacht. Der Nutzer wird von Dritten kein Entgelt für die Nutzung des NDR Video Players erheben. Vom Nutzer eingesetzte Digital Rights Managementsysteme dürfen nicht angewendet werden. Der Nutzer ist für die Einbindung der Inhalte der Tagesschau in seinem Online-Auftritt selbst verantwortlich.
Der Nutzer wird die eventuell notwendigen Rechte von den Verwertungsgesellschaften direkt lizenzieren und stellt den NDR von einer eventuellen Inanspruchnahme durch die Verwertungsgesellschaften bezüglich der Zugänglichmachung im Rahmen des Online-Auftritts frei oder wird dem NDR eventuell entstehende Kosten erstatten
Das Recht zur Widerrufung dieser Nutzungserlaubnis liegt insbesondere dann vor, wenn der Nutzer gegen die Vorgaben dieser AGB verstößt. Unabhängig davon endet die Nutzungsbefugnis für ein Video, wenn es der NDR aus rechtlichen (insbesondere urheber-, medien- oder presserechtlichen) Gründen nicht weiter zur Verbreitung bringen kann. In diesen Fällen wird der NDR das Angebot ohne Vorankündigung offline stellen. Dem Nutzer ist die Nutzung des entsprechenden Angebotes ab diesem Zeitpunkt untersagt. Der NDR kann die vorliegenden AGB nach Vorankündigung jederzeit ändern. Sie werden Bestandteil der Nutzungsbefugnis, wenn der Nutzer den geänderten AGB zustimmt.

Einverstanden

Zum einbetten einfach den HTML-Code kopieren und auf ihrer Seite einfügen.

Die Reporterinnen und Reporter konnten in diesem Datensatz mit einer einfachen Schlagwortsuche weit mehr als Tausend mutmaßlich rechtswidrige Inhalte identifizieren, darunter Aufrufe zur Vergewaltigung, SS-Runen oder antisemitische Hasspropaganda. Zudem fanden sie mehr als 10.000 schwere Beleidigungen, viele davon rassistischer Art. Zum Teil standen diese anstößigen Inhalte über Jahre im Netz.

Facebook: "Haben sehr große Fortschritte gemacht"

Im Interview verweist ein Sprecher von Facebook Deutschland auf die geltenden Richtlinien für Nutzerinnen und Nutzer und auf die Bemühungen des Unternehmens, gegen Hassrede vorzugehen: "Wir möchten Hassrede natürlich löschen. Und wir haben im Kampf gegen Hassrede in den letzten Jahren sehr große Fortschritte gemacht."

Ihm zufolge werden viele problematische Inhalte bereits gelöscht, bevor diese gemeldet werden. "Wir wissen aber auch, dass wir Fehler machen und diese wichtige Arbeit nie beendet sein wird, da es sich um ein breites, gesellschaftliches Problem handelt."

Zugang wurde schnell gewährt

Der Datensatz, der von BR, NDR und WDR ausgewertet wurde, ist im deutschsprachigen Raum aufgrund seines Umfangs bisher einmalig. Er geht auf die Initiative eines Informanten zurück, der die Journalistinnen und Journalisten auf die Inhalte in diesen meist geschlossenen Facebook-Gruppen hingewiesen hatte. 

Mithilfe erfundener Identitäten haben die Reporterinnen und Reporter selbst Beitritt zu den Gruppen beantragt. Nach Aufnahme in die Gruppen konnten sie die Inhalte bis zurück zum Gründungsdatum verfolgen und archivieren. Administratoren der Gruppen hatten den Reportern zumeist nach kurzer Wartezeit Zutritt gewährt, ohne die Identität vorher zu überprüfen.

Massive Zunahme der Hassrede 

Der untersuchte Datensatz ist nicht repräsentativ, verdeutlicht aber Tendenzen. Die Auswertung zeigt, dass sich der Anteil der hassgeladenen Sprache in den analysierten Gruppen zwischen 2012 und 2018 vervierfacht hat.

25 der untersuchten Gruppen haben einen Bezug zur AfD: Sie tragen den Namen der Partei im Titel, ohne allerdings offizielle Gruppen der Partei zu sein. Nach Recherchen von BR, NDR und WDR waren darin aber mehrere Accounts von Bundes- und Landtagsabgeordneten zu finden. Diese waren auch in Gruppen aktiv, in denen mutmaßlich strafbare Inhalte gepostet wurden. Die AfD ließ eine Anfrage dazu unbeantwortet.

Facebook lobbyierte gegen Regulierung

Die Reporterinnen und Reporter haben zudem interne Unterlagen der Bundesregierung ausgewertet, die Hinweise darauf liefern, dass Facebook in der Vergangenheit gezielt versucht hat, schärfere Regeln abzuwenden.

Schon 2015 bemühte sich Facebook offenbar, eine geplante gemeinsame Erklärung zur Gründung einer Anti-Hatespeech-Taskforce in seinem Sinne abzuändern: "Die Vorstellungen von Facebook zielen im Moment aber auf eine so weit gehende Aufweichung, dass wir uns wohl überlegen müssen, wie wir mit einem Scheitern der Gespräche umgehen würden", heißt es in einer Einschätzung aus dem Justizministerium aus dem Dezember 2015.  

Anschließend lobbyierte das Unternehmen den Unterlagen zufolge auch gegen rechtliche Verpflichtungen wie das Netzwerkdurchsetzungsgesetz (NetzDG). Facebook hatte sich in Schriftwechseln mit der Bundesregierung stets darauf berufen, dass ein Unternehmen nicht entscheiden könne, welche Inhalte strafbar seien. Dies bleibe Aufgabe des Staates. 

Ende 2017 verabschiedete die Bundesregierung das NetzDG. Eine Facebook-Mitarbeiterin schrieb im Sommer 2017 an das Justizministerium: "Ich weiß, dass Sie unsere Bedenken hinsichtlich des Gesetzentwurfs kennen. Ich hoffe, dass wir Ihnen dennoch auch in diesem fortgeschrittenen Stadium der Gesetzgebung das Gefühl geben können, dass es ausreichend Fortschritte gegeben hat, um weiterhin einen nichtlegislativen Ansatz in Erwägung zu ziehen."

 Facebook muss nicht aktiv nach Hassrede suchen

Erst vergangene Woche hat der Bundestag das NetzDG verschärft. Es verpflichtet Online-Plattformen wie Facebook, Mordaufrufe und andere Drohungen zu Gewaltdelikten sowie Posts mit volksverhetzendem Inhalt den Strafverfolgungsbehörden zu melden.

Bundesjustizministerin Christine Lambrecht sagte dazu im Interview mit report München: "Es geht nicht darum, kritische Meinungen in irgendeiner Weise einzuschränken." Es gehe aber darum, "Hass und Hetze und Morddrohungen und Antisemitismus, alle diese widerlichen Auswüchse", der Strafverfolgung zu unterwerfen. "Und das wird auch von den Plattformen wahrgenommen, dass wir gezielt vorgehen wollen." Eine gesetzliche Verpflichtung, aktiv nach diesen Inhalten zu suchen, hat Facebook jedoch weiterhin nicht.

Über dieses Thema berichtete tagesschau24 am 23. Juni 2020 um 11:00 Uhr und am 24. Juni 2020 ZAPP um 23:20 Uhr im NDR.

Darstellung: