Eine Person, die aus grünen Nullen und Einsen besteht | Bildquelle: REUTERS

Gefälschte Videos Deepfakes als Waffe gegen Frauen

Stand: 09.10.2019 13:06 Uhr

Einer Studie zufolge hat die Zahl der Deepfakes im Netz deutlich zugenommen. Die meisten manipulierten Videos haben keine politischen, sondern pornographische Inhalte.

Von Patrick Gensing, ARD-faktenfinder

Deutlich mehr Deepfakes, aber kaum welche mit politischen Inhalten - so lässt sich eine Untersuchung des Unternehmens Deeptrace zusammenfassen. Die Firma mit Sitz in den Niederlanden stieß bei ihren Analysen auf fast 14.700 Videos, die sie als Deepfakes klassifizierten. Im Dezember 2018 waren es noch unter 8000. In dem Bericht ist von einem alarmierenden Anstieg die Rede.

Der Begriff Deepfake setzt sich zusammen aus den englischen Begriffen Deep Learning und Fake - also tiefgehendes Lernen und gezielte Fälschung. Es handelt sich dabei um komplexe Manipulationen von Videos. Je mehr Material von einer Person vorliegt, umso authentischer wirken manipulierte Bilder, die mit Hilfe von künstlichen neuronalen Netzwerken entwickelt werden.

Ausschließlich Frauen betroffen

96 Prozent der entdeckten Deepfakes bezogen sich den Angaben zufolge auf pornographische Inhalte. Zumeist wurden Gesichter von bekannten Frauen in Pornofilme montiert. Betroffen waren vor allem Schauspielerinnen und Künstlerinnen aus den USA, Großbritannien, Südkorea, Kanada und Indien.

Von den pornographischen Deepfakes waren ausschließlich Frauen betroffen. Der Wissenschaftler Danielle Citron von der Universität Boston meint, die Technologie werde als Waffe gegen Frauen instrumentalisiert. Bei der Erstellung solcher Videos spielten Foren und Communities eine entscheidende Rolle - beispielsweise 4chan oder 8chan, die auch im Kontext mit Hasskommentaren oder Anschlagsdrohungen immer wieder auffielen. Dort hatten sich auch besonders frauenfeindliche Gruppen von Männern organisiert.

Wachsender Markt

Deepfakes können auf verschiedenen Wegen erstellt werden: mit speziellen Apps, auf Service Portalen oder Online-Marktplätzen. Es handele sich um einen wachsenden Markt, heißt es in der Untersuchung.

Kaum eine Rolle spielten bislang politische Deepfakes. Doch allein die Sorge vor solchen Manipulationen schaffe bereits Verunsicherung. So wurden in Gabun und Malaysia brisante Aufnahmen von Politikern als Deepfakes bezeichnet - obwohl es dafür keine belastbaren Indizien gab.

In der Untersuchung wird abschließend auf das Tempo bei der Entwicklung von Deepfakes hingewiesen. Dadurch könne sich die Anwendung solcher Manipulationen ständig verändern, genauso könnte künftig auch ein größeres Publikum erreicht werden. Es sei daher wichtig, auf neue Herausforderungen vorbereitet zu sein.

Hakenkreuz im Wohnzimmer

Wie leicht sich Videos manipulieren lassen, zeigt ein Beispiel aus dem Jahr 2018. Dabei hatten Unbekannte eine NDR-Reportage verfälscht und Nazi-Symbole an eine Wand in eine Wohnung eingefügt. Allerdings handelt es sich dabei mutmaßlich um eine Manipulation mit konventionellen Programmen, nicht um einen komplexen Deepfake.

Manipulierte Szene aus NDR-Dokumentation
22.02.2018

Download der Videodatei

Wir bieten dieses Video in folgenden Formaten zum Download an:

Hinweis: Falls die Videodatei beim Klicken nicht automatisch gespeichert wird, können Sie mit der rechten Maustaste klicken und "Ziel speichern unter ..." auswählen.

Video einbetten

Nutzungsbedingungen Embedding Tagesschau: Durch Anklicken des Punktes „Einverstanden“ erkennt der Nutzer die vorliegenden AGB an. Damit wird dem Nutzer die Möglichkeit eingeräumt, unentgeltlich und nicht-exklusiv die Nutzung des tagesschau.de Video Players zum Embedding im eigenen Angebot. Der Nutzer erkennt ausdrücklich die freie redaktionelle Verantwortung für die bereitgestellten Inhalte der Tagesschau an und wird diese daher unverändert und in voller Länge nur im Rahmen der beantragten Nutzung verwenden. Der Nutzer darf insbesondere das Logo des NDR und der Tageschau im NDR Video Player nicht verändern. Darüber hinaus bedarf die Nutzung von Logos, Marken oder sonstigen Zeichen des NDR der vorherigen Zustimmung durch den NDR.
Der Nutzer garantiert, dass das überlassene Angebot werbefrei abgespielt bzw. dargestellt wird. Sofern der Nutzer Werbung im Umfeld des Videoplayers im eigenen Online-Auftritt präsentiert, ist diese so zu gestalten, dass zwischen dem NDR Video Player und den Werbeaussagen inhaltlich weder unmittelbar noch mittelbar ein Bezug hergestellt werden kann. Insbesondere ist es nicht gestattet, das überlassene Programmangebot durch Werbung zu unterbrechen oder sonstige online-typische Werbeformen zu verwenden, etwa durch Pre-Roll- oder Post-Roll-Darstellungen, Splitscreen oder Overlay. Der Video Player wird durch den Nutzer unverschlüsselt verfügbar gemacht. Der Nutzer wird von Dritten kein Entgelt für die Nutzung des NDR Video Players erheben. Vom Nutzer eingesetzte Digital Rights Managementsysteme dürfen nicht angewendet werden. Der Nutzer ist für die Einbindung der Inhalte der Tagesschau in seinem Online-Auftritt selbst verantwortlich.
Der Nutzer wird die eventuell notwendigen Rechte von den Verwertungsgesellschaften direkt lizenzieren und stellt den NDR von einer eventuellen Inanspruchnahme durch die Verwertungsgesellschaften bezüglich der Zugänglichmachung im Rahmen des Online-Auftritts frei oder wird dem NDR eventuell entstehende Kosten erstatten
Das Recht zur Widerrufung dieser Nutzungserlaubnis liegt insbesondere dann vor, wenn der Nutzer gegen die Vorgaben dieser AGB verstößt. Unabhängig davon endet die Nutzungsbefugnis für ein Video, wenn es der NDR aus rechtlichen (insbesondere urheber-, medien- oder presserechtlichen) Gründen nicht weiter zur Verbreitung bringen kann. In diesen Fällen wird der NDR das Angebot ohne Vorankündigung offline stellen. Dem Nutzer ist die Nutzung des entsprechenden Angebotes ab diesem Zeitpunkt untersagt. Der NDR kann die vorliegenden AGB nach Vorankündigung jederzeit ändern. Sie werden Bestandteil der Nutzungsbefugnis, wenn der Nutzer den geänderten AGB zustimmt.

Einverstanden

Zum einbetten einfach den HTML-Code kopieren und auf ihrer Seite einfügen.

Videos aus Kontext gerissen

In den meisten Fällen werden Videos aber einfach aus ihrem Kontext gerissen. Aktuelles Beispiel: So tauchte beispielsweise nach dem Brand in einer Chemiefabrik in Nordfrankreich ein Video auf, das eigentlich aus China stammt.

Über dieses Thema berichtete Deutschlandfunk Nova am 09. Oktober 2019 um 16:00 Uhr.

Darstellung: