EU-Einigung auf KI-Gesetz Grundrechte versus Innovationen
Die EU hat sich auf Regeln für den Einsatz von Künstlicher Intelligenz geeinigt. Nicht alle Beteiligten glauben jedoch, dass die Balance zwischen Sicherheit, Innovation und Grundrechten gelungen ist.
Mit dem Gesetz setzt sich die EU weltweit an die Spitze der KI-Regulierung. Es ist das erste seiner Art. Historisch nennt es deshalb der zuständige EU-Binnenmarktkommissar Thierry Breton. Von einem rechtlichen Rahmenwerk für die Entwicklung von Künstlicher Intelligenz, dem die Menschen "vertrauen" könnten, spricht Kommissionspräsidentin Ursula von der Leyen.
Und was sagen die vielen Europaparlamentarierinnen und -parlamentarier, die seit über zweieinhalb Jahren an diesem Gesetz arbeiten - und die sich jetzt in der abschließenden Verhandlungsrunde 38 Stunden über drei Tage über die großen Knackpunkte gebeugt haben? "Unter dem Strich ist es ein gutes Gesetz, das auf die Herausforderungen unserer Zeiten sehr gut reagiert und die dringendsten Fragen beantwortet", meint der Europaabgeordnete der Grünen, Sergey Lagodinsky.
KI-Lobby machte Druck bei generativen Modellen
Jedoch muss es auch einen Rahmen schaffen, für Fragen, die sich so jetzt noch gar nicht stellen - bei einer Technologie, die weiter in konstantem Wandel und rasanter Entwicklung ist.
Deshalb drehte sich vieles um die Frage: Sollen besonders leistungsfähige KI-Modelle auch besondere Regeln bekommen? Ja, laute nun die Antwort, so Lagodinsky. "Das Wichtigste ist, dass wir eine Regulierung nicht nur der künstlichen Intelligenz, sondern auch der besonders starken und besonders fortgeschrittenen Form der künstlichen Intelligenz, nämlich der generativen Modelle, geschafft haben. Das haben wir trotz des Drucks aus den Lobbys, aus den Unternehmen geschafft - und dieser Druck war enorm."
Zwei Risikoklassen eingeführt
Auch die deutsche Bundesregierung hatte sich zuletzt gegen gesetzliche Vorschriften für besonders große KI-Modelle ausgesprochen, aus Sorge die Zukunftstechnologie könnte dann einen Bogen um Europa machen. Nun sollen die sogenannten Grundlagenmodelle in zwei Risikoklassen reguliert werden - und entsprechend besondere Pflichten bekommen: beim Weitergeben von Informationen, bei der Risikoanalyse und beim Dokumentieren der Daten, mit denen die KI trainiert wird.
Grundlagenmodelle sind besonders wirkmächtige Modelle. Das größte derzeit heißt GPT-4; es ist auch Basis für das bekannte Sprachmodell ChatGPT. Es kann aber auch in andere Anwendungen einfließen - etwa in Software von Krankenhäusern, Anwaltskanzleien und Personalabteilungen oder in Chatbots im Kundendienst.
Rechtssicherheit für Unternehmen
Deshalb sei die jetzige Entscheidung auch gut für europäische Unternehmen, sagt die FDP-Europaabgeordnete Svenja Hahn, die für ihre Fraktion über das KI-Gesetz verhandelt hat. "Das ist extrem wichtig, gerade für europäische Unternehmen - kleine mittelständische besonders - damit sie sichere Systeme bauen können, wenn sie auf Systeme wie ChatGPT setzen, und eben nicht alleine auf den Compliance-Kosten sitzen bleiben - oder gar verantwortlich für Fehlfunktionen dieser Systeme sind."
Sie hätte sich zwar weniger regulatorische Auflagen gewünscht, so Hahn. Aber es sei ein großer Erfolg für Innovation in Europa, "dass wir eine pauschale Hochrisiko-Einstufung von sogenannten General Purpose AI-System wie ChatGPT verhindern konnten."
Regulierung als Innovationshemmer?
Skeptisch zeigt sich der rechtspolitische Sprecher der CDU, Axel Voss. Er sei nicht überzeugt, dass dies der richtige Weg sei, um Europa im Bereich der KI wettbewerbsfähig zu machen. "Innovation wird immer noch anderswo stattfinden. Hier haben wir als Europäische Union unsere Chance verpasst." Voss setzt nun auf die entscheidende Arbeit an den technischen Details, bis das Europaparlament und die EU-Staaten dem Verhandlungsergebnis final zustimmen können.
Das gilt wohl auch für die größte Streitfrage im gesamten KI-Gesetz: Inwieweit darf Künstliche Intelligenz im öffentlichen Raum eingesetzt werden, etwa zur Strafverfolgung? Es sei ein wichtiger Erfolg für die Bürgerrechte, dass die biometrische Massenüberwachung verhindern worden sei, sagt die FDP-Abgeordnete Hahn. "Ursprünglich hatten wir von Parlament sogar ein vollständiges Verbot der biometrischen Echtzeit Identifizierung gefordert."
Grenzen für Strafverfolger
Viele EU-Staaten - außer Deutschland - forderten jedoch deutlich mehr Möglichkeiten. Nun soll die biometrische Identifizierung künftig in engen Grenzen möglich sein. "Uns ist es aber gelungen, entscheidende rechtsstaatliche Hürden einzuziehen", sagt Hahn. "Danach darf die Technologie nur eingesetzt werden zur gezielten Identifizierung von explizit wegen der Ausübung sehr schwerer Verbrechen konkret gesuchter Personen. Dazu gehört etwa Entführung oder Vergewaltigung. Auch Opfer schwerer Straftaten und Vermisste dürfen gezielt gesucht werden."
Viele andere Anwendungen werden dagegen komplett verboten: sogenanntes "social scoring", etwa biometrische Kategorisierungssysteme, die sensible Merkmale wie zum Beispiel die sexuelle Orientierung oder religiöse Überzeugungen verwenden. Auch das ungezielte Auslesen von Bildern aus dem Internet oder aus Überwachungsaufnahmen für Gesichtserkennungsdatenbanken soll nicht erlaubt sein.
Piratenpartei sieht weiterhin Gefahr der Massenüberwachung
Der Europaabgeordnete der Piratenpartei Patrick Breyer sieht darin dennoch eine gefährlichen Einschnitt: "Mit dieser gesetzlichen Anleitung zu biometrischer Massenüberwachung kann unser Gesicht in der Öffentlichkeit immer und überall flächendeckend und verdachtslos gescannt werden." Schließlich würden ja ständig Tausende Verdächtige der im neuen KI-Gesetz genannten Straftaten durch Richterbeschluss gesucht.
Versöhnlicher bewertet es der grüne Europa-Abgeordnete Lagodinsky. Man habe eine sogenannte Grundrechtsfolgen-Abschätzung in dem Gesetz verankern können. Das sei "etwas, was KI beschränkt in den Angriffen auf die Grundrechte und unsere Demokratie" Das seien Erfolge. "Natürlich können wir jetzt nicht sagen, dass das Ergebnis zu 100 Prozent für alle die Wunschergebnisse darstellen. Aber davon lebt natürlich das parlamentarische Geschäft."
Behörde soll KI überwachen
Eine neue EU-Behörde soll zudem überwachen und analysieren, wie das erstes KI-Gesetz weltweit mit den immer neuen Herausforderungen dieser Technologie korrespondiert - ob die Brücke zwischen Chancen und Risiken hält, auch gesellschaftlich: zwischen KI-Optimisten und KI-Pessimisten. Und wann das Gesetz ein "Update" benötigt.