Modell eines menschlichen Gehirns | dpa

Überkommene Rollenbilder Wie sexistisch ist Künstliche Intelligenz?

Stand: 08.03.2022 04:35 Uhr

Frauen sind im Bereich KI immer noch unterrepräsentiert. Das kann durchaus Folgen haben - denn Technologien, die von männlich dominierten Unternehmen entwickelt wurden, können Vorurteile widerspiegeln.

Von Katharina Wilhelm, ARD-Studio Los Angeles

2019: Apple bietet seine eigene Kreditkarte an - für die Prüfung, wer sich qualifiziert und zu welchen Konditionen jemand eine Karte erhalten kann, verwendet der Konzern auch Künstliche Intelligenz (KI). Damals mehren sich Meldungen, dass Frauen und Männer offenbar unterschiedlich bewertet werden, indem Frauen bei gleichen finanziellen Voraussetzungen beispielsweise einen geringeren Kreditkartenrahmen bekommen. Sogar Apple-Mitgründer Steve Wozniak habe das erlebt, schreibt er damals auf Twitter:

Katharina Wilhelm ARD-Studio Los Angeles

Ein anderes Beispiel: Der Warengigant Amazon hatte Künstliche Intelligenz in Bewerbungsverfahren eingesetzt - nach einiger Zeit kam heraus: Frauen wurden öfter aussortiert, der Algorithmus hatte eine Präferenz für männliche Kandidaten.

KI grenzt Frauen aus

Diese zwei Beispiele sind nicht die einzigen Fälle, in denen die Frage gestellt werden musste: Wie sexistisch ist Künstliche Intelligenz eigentlich - und warum? "Wenn man sich die Zusammensetzung der Tech-Industrie anschaut, ist die vor allem weiß und männlich. Diese Menschen treffen Entscheidungen für den Rest der Menschheit", sagt Mia Shah-Dand. Sie hat eine Beratungsfirma in Kalifornien gegründet, die sich für mehr Gerechtigkeit in der Tech-Welt und vor allem im Bereich Künstliche Intelligenz einsetzt.

Künstliche Intelligenz und maschinelles Lernen werden zum Beispiel bei Gesichtserkennungssoftware eingesetzt. Dort erwies sich die Software als rassistisch und sexistisch: Denn die Künstliche Intelligenz konnte die Gesichter schwarzer Frauen besonders schlecht erfassen - ein Problem, das in der Strafverfolgung richtig gefährlich werden kann. "Was heißt das für Frauen? Diese Systeme wurden nicht für uns geschaffen. Vor allem für Frauen, die nicht weiß sind", beklagt Shah-Dand. "Ohne Repräsentation können diese Systeme diesen Gruppen nicht gerecht werden."

Frauen dramatisch unterrepräsentiert

Nur knapp über 20 Prozent Frauen arbeiten laut Wirtschaftsmagazin "Forbes" im Zusammenhang mit Künstlicher Intelligenz. Doch gelöst werden könne das Problem eigentlich nur, indem die Tech-Firmen diverser werden: indem sie mehr Frauen, Non-binäre und nicht-weiße Menschen einstellen. Shah-Dand will das mit ihrem Beratungsunternehmen ändern. Sie ist Gründerin der globalen Initiative "Women in AI Ethics", der führenden Ressource für die Anerkennung, Rekrutierung und Förderung talentierter Frauen in diesem Bereich. Ihr Ziel: diesen Frauen eine Stimme zu geben - denn oft würden sie von ihren Kollegen übertönt.

Doch es sei nicht so einfach, Frauen für die Branche zu begeistern, denn es gebe zahlreiche Probleme: "Es sind oft nicht die freundlichsten Umgebungen für Frauen, sondern oft toxisch", sagt Shah-Dand. "Wenn Frauen dort arbeiten, ist die Frage: Werden sie unterstützt, können sie auf Ungerechtigkeit aufmerksam machen? Mehr Frauen sind gut - aber wir müssen sie auch schützen."

Sexismus und Missbrauch an der Tagesordnung

Beispiele gibt es zahlreiche: Beim Spieleunternehmen Activision Blizzard gab es systematischen Sexismus bis hin zu Missbrauch, der von oberster Stelle lange unter Verschluss gehalten wurde. Frances Haugen, die Facebooks und Instagrams schädlichen Algorithmus anprangerte, wurde vom Mutterkonzern nach den Enthüllungen scharf attackiert.

Shah-Dand unterstellt der Industrie zudem ein "Fanboy-Syndrom": Führungspersönlichkeiten wie Elon Musk, Jeff Bezos oder Steve Jobs würden regelrecht vergöttert. Starke Frauen bildeten da die Ausnahme. Ein Wandel sei aber dringend notwendig, sagt sie, wenn Technologien wie Künstliche Intelligenz uns allen dienen sollen und nicht nur "einer Handvoll weißer Männer".

Über dieses Thema berichtete Deutschlandfunk Kultur am 08. März 2022 um 05:20 Uhr.