Datenbank EU will Druck auf Instagram, TikTok und X erhöhen
Eine neue EU-Datenbank zeigt, welche Inhalte Netzwerke wie TikTok und Instagram löschen oder einschränken. Rund fünf Monate nach dem Start loben Experten die Initiative, fordern aber noch mehr Transparenz.
Dass die Social-Media-Plattform TikTok offenbar deutlich mehr Inhalte löscht, als Instagram oder X oder dass "Hassrede" bei den Plattformen eine große Rolle spielt, zeigt eine erste Auswertung der neuen EU-Datenbank durch NDR und Süddeutsche Zeitung.
Mehr als vier Milliarden Einträge haben die Internet-Plattformen seit Ende September bereits eingespeist. Konkret geben die Plattformen in der Datenbank an, welche Inhalte sie aus welchem Grund gelöscht oder in der Sichtbarkeit eingeschränkt haben. Auswerten lässt sich die Datenbank mithilfe eines Dashboards. Dort kann nach Kategorien wie zum Beispiel "Hassrede", "Gewalt", "Pornografie" oder "Beeinflussung von Wahlen" gefiltert werden.
Seit knapp fünf Monaten melden bereits 16 große Plattformen ihre Moderationsentscheidungen. Mit dem unlängst in Kraft getretenen "Digital Services Act" ist das Melden nun für weitere Anbieter verbindlich geworden.
Als ein "zunächst einmal wirklich gutes Instrument" bewertet Wissenschaftler Jakob Ohme vom Weizenbaum Institut, der umfassend zu Desinformation forscht, die neu geschaffene Datenbank. Vor allem, dass interessierte Bürgerinnen und Bürger, Organisationen oder Wissenschaftlerinnen und Wissenschaftler jetzt die Plattformen direkt miteinander vergleichen könnten, sei ein wichtiger Schritt.
Pornografie auf Instagram, Gewalt auf TikTok
Die neue Datenbank soll transparent machen, welche Probleme die Plattformen haben oder wo sie selbst Schwerpunkte in der Moderation setzen. Hier gehe es auch darum, Druck aufzubauen und zu zeigen, wie moderiert wird und wo Schwächen liegen, sagt Matthias C. Kettemann, Rechtswissenschaftler vom Leibniz-Institut für Medienforschung, der zum "Digital Services Act" forscht.
Die Auswertung der Daten und der Vergleich der Plattformen miteinander könnten dazu dienen, Hinweise zur weiteren Regulierung oder Verbesserung zu geben. Mit Abstand die meisten Meldungen entfallen dabei auf den Anbieter Google Shopping.
Millionen gelöschte TikTok-Inhalte gegenüber 650.000 bei X
In der Datenbank wird des Weiteren dokumentiert, dass seit Einführung der Meldepflicht Ende September bei der Social-Media-Plattform TikTok mehr als 200 Millionen Beiträge gelöscht wurden. Das sind rund 70 Prozent aller von TikTok gemeldeten Inhalte. Dem gegenüber stehen nur etwa fünf Millionen gelöschte Videos, Accounts und Fotos bei Instagram. Das entspricht etwa einem Drittel aller von Instagram gemeldeten Inhalte.
Bei der Online-Plattform X wurden im gleichen Zeitraum laut Datenbank lediglich 648.000 Inhalte gemeldet, gelöschte Inhalte meldete X dabei so gut wie überhaupt nicht. "Elon Musk hat sehr früh viele Mitarbeiterinnen und Mitarbeiter aus dem Bereich entlassen und das Ergebnis ist, dass Twitter zu einer schlechteren Plattform geworden ist mit mehr Hassrede", kommentiert Kettemann.
Deutliche Unterschiede bei den Plattformen
Einsehen lässt sich in der EU-Datenbank auch, weshalb Internetplattformen bestimmte Inhalte löschen oder die Sichtbarkeit einschränken. Die größte Kategorie bei Instagram und TikTok ist "Scope of plattform service".
Hier fassen die Plattformen alle Entscheidungen zusammen, die etwas mit den allgemeinen Regularien zu tun haben, etwa ein Verstoß gegen "Altersbeschränkungen" oder "Nacktheit". Darauf folgt "Illegale oder verletzende Rede" als große Kategorie.
In dieser Hinsicht unterscheiden sich die beiden Plattformen. Instagram scheint vor allem "Pornografie" zu begrenzen, bei TikTok sind es "gewalttätige Inhalte". "Das sagt natürlich auch etwas über die Plattformen aus, bei TikTok etwa, dass man sich auf unterhaltende Inhalte konzentriert und dementsprechend auch strenger moderiert", so Wissenschaftler Kettemann.
Auf Nachfrage von NDR und SZ bei den Plattformen teilt TikTok mit, man moderiere auf Basis der eigenen Community-Richtlinien und hole sich ständig Feedback von unabhängigen Organisationen dazu ein. Meta schreibt, man begrüße den "Digital Services Act" und setze auf umfangreiche menschliche sowie maschinelle Content-Moderation. X meldete sich auf Nachfrage nicht zurück.
Mit KI die wahren Probleme überdecken?
Um der schieren Masse Herr zu werden und auch Löschentscheidungen schneller zu treffen, nutzen Meta bei Facebook und Instagram sowie TikTok zunehmend auch die automatisierte Erkennung von Inhalten.
Künstliche Intelligenz gilt manchen Beobachtern dabei als möglicher Heilsbringer. "Meiner Ansicht nach wird dieses 'shiny' Thema von den Konzernen gern vorgeschoben, um die wahren und auch großen Probleme bei der Content Moderation zu überdecken", kritisiert Julia Kloiber vom Superrr Lab, das sich für die Belange von Content-Moderatorinnen und -Moderatoren der großen Netzwerke einsetzt und vor allem bessere Arbeitsbedingungen fordert.
Als ein Beispiel, dass KI vor allem bei Videos noch nicht besonders gut funktioniere, nennt sie ein viral gegangenes Video von vor etwa einem Jahr, das zahlreiche Nutzerinnen und Nutzer einer Plattform verstörte: Ein Mann, der eine Katze in einen Mixer steckt. Das Tier stirbt darin.
"Content-Moderatorinnen und -Moderatoren haben dieses Video tagelang nicht entfernt bekommen", berichtet sie. Das Video sei immer wieder neu hochgeladen worden und habe schließlich manuell entfernt werden müssen.
Wie gut oder schlecht Künstliche Intelligenz inzwischen funktioniert, darüber gibt die EU-Datenbank keinen Aufschluss. Zwar legen die Konzerne offen, ob sie bei der Moderation von Inhalten eine "automatisierte Entscheidung" getroffen haben, dies sagt aber nichts darüber aus, ob algorithmische Verfahren wie etwa Wortfilter oder eben Künstliche Intelligenz zum Einsatz kamen. "Leider kann man nicht besonders tief in die Materie eindringen, es fehlt an konkreten Beispielen", sagt Rechtswissenschaftler Matthias Kettemann. Die Datenbank sei eine Selbstauskunft.
Problem der Selbstauskunft
Er und andere Universitäten und Organisationen, wie etwa Hate Aid oder das Weizenbaum-Institut, setzen sich für einen direkten Zugang zu den Internet-Plattformen ein, mit dessen Hilfe dann unabhängig Analysen gemacht werden könnten.
Die Plattformen haben diese zumindest zum Teil bereits eingerichtet. Der Zugang werde, sobald in Deutschland das "Digitale-Dienste Gesetz" verabschiedet ist, kommen. Mit einem Abschluss des Verfahrens rechnet das Digitalministerium bis spätestens Ende Mai.