Die Abgeordneten im Europaparlament stimmen für Vorgaben, um Manipulationen und Auswüchse etwa bei der Überwachung von Bürgern zu verhindern.
Beim Einsatz von Künstlicher Intelligenz (KI) findet ein rasanter Wettlauf statt. Auf der einen Seite verkünden Software-Entwickler fast täglich neue Einsatzmöglichkeiten. Gleichzeitig wird von staatlicher Seite versucht, Auswüchse zu verhindern, einen rechtlichen Rahmen zu definieren und auf diese Weise die Bürger zu schützen.
So kündigte etwa das US-Unternehmen Google an, seine Dienste mit neuen, KI-unterstützten Funktionen aufzurüsten. Neben der Suchmaschine sollen auch andere Anwendungen wie Mail, Bürosoftware und Karten aufgebessert werden, sagte Konzernchef Sundar Pichai am Donnerstag auf der Entwicklerkonferenz Google I/O. Allerdings wird zum Beispiel Googles Chat-Bot Bard zwar auf Deutsch, aber zunächst weder in Deutschland noch in der Europäischen Union verfügbar sein. Offensichtlich versucht der US-Konzern zunächst zu klären, ob Bard kompatibel mit dem rechtlichen Rahmen in der Europäischen Union ist.
Die Internet-Riesen blicken nach Europa
Von den Internet-Giganten wird also sehr genau beobachtet, dass in Europa im Moment an der rechtlichen Regulierung der KI-Systeme gearbeitet wird. So hat die EU-Kommission bereits das sogenannte Gesetz über Künstliche Intelligenz vorgelegt, über das am Donnerstag in den beiden zuständigen Parlamentsausschüssen für Bürgerrechte und Verbraucherschutz abgestimmt worden ist. Die EU wäre der erste Wirtschaftsraum weltweit, der Vorschriften für die Künstliche Intelligenz erlässt.
Die Kommission wählt bei der Umsetzung der geplanten Gesetzgebung einen risikobasierten Ansatz, der sicherstellen soll, dass KI-basierte Systeme keine negativen Folgen für die Sicherheit und Grundrechte der Menschen haben. Das bedeutet, dass die jeweiligen gesetzlichen Auflagen vom Risikopotenzial der Anwendung abhängen sollen.
Risikoreiche Systeme sollen verboten werden
Risikoreiche Systeme, die für die EU nicht akzeptabel sind, sollen demnach komplett verboten werden. Darunter fallen sprechende Spielzeuge, die Kinder zu einem gefährlichen Verhalten verleiten könnten, oder das sogenannte Social Scoring, mit welchem die Kreditwürdigkeit von Personen durch Internetdaten beurteilt werden könnte. Hochrisikosysteme, wie zum Beispiel im Transportwesen, sollen bestimmten Regeln unterliegen. KI-Systeme, die als risikoarm eingestuft werden, sollen keine Auflagen bekommen. Chatbots wie ChatGPT werden von der EU derzeit als begrenzt risikoreich eingeordnet. Damit unterliegen diese KI-Anwendungen einer minimalen Transparenzpflicht, die es den Anwendern ermöglichen soll, selbst zu entscheiden, dieses zu nutzen oder nicht.
Am Donnerstag machten die Europaparlamentarier noch einmal deutlich, dass auch sie diesen risikobasierten Ansatz unterstützen. Konkret sprachen sich die Parlamentarier für strenge Vorgaben für „Hochrisiko“-Anwendungen aus und sogar für ein Verbot hoch manipulativer KI. Tabu sollten nach Ansicht der Abgeordneten etwa biometrische Systeme zur Gesichtserkennung im öffentlichen Raum sein, die diskriminierend wirken oder die Freiheitsrechte einschränken. Extrem kritisch sieht das Parlament auch Anwendungen zur Gefühlserkennung. Verbraucher sollen bei riskanten Anwendungen Informations- und Beschwerderechte erhalten. Das sind schärfere Auflagen als sie die EU-Kommission vorschlägt.
Die SPD-Politikerin Birgit Sippel betonte, dass bei der Entwicklung und dem Einsatz von Künstlicher Intelligenz stets „ein menschenzentrierter Einsatz“ im Fokus stehen müsse. Die Technik solle „den Menschen dienen und sie weder überwachen, manipulieren, analysieren noch über sie richten“. In dieselbe Kerbe schlägt auch Cornelia Ernst, datenschutzpolitische Sprecherin von der Partei Die Linke. Sie fordert eine strikte Regelung des KI-Einsatzes in allen Lebensbereichen.
Parlamentarier sind zufrieden mit der Regelung
Auch der CDU-Abgeordnete Axel Voss plädiert für eine Regulierung, warnt im selben Atemzug aber: „Was mir allerdings Sorgen bereitet, ist ein bestehender angstgetriebener Umgang mit Künstlicher Intelligenz, der die Chancen neuer Technologien völlig erstickt.“ Die FDP-Abgeordnete Svenja Hahn äußert sich hingegen zufrieden über die geplante Regelung, denn es sei gelungen, „konservativen Überwachungswünschen und linken Überregulierungsfantasien zu trotzen“. Die liberale Digitalpolitikerin glaubt, dass der Kompromiss die Bürgerrechte schützen und gleichzeitig die Wirtschaft „beflügelt“ werde.
Nach dem nun erfolgten Votum in den beiden EU-Parlamentsausschüssen wird eine Plenarabstimmung im Juni erwartet. Sie bildet die Grundlage für die dann folgenden Verhandlungen mit den Mitgliedsländern.