Die EU-Ausschüsse für Binnenmarkt und für bürgerliche Freiheiten nahmen heute einen Entwurf für ein Verhandlungsmandat über die ersten Regeln für Künstliche Intelligenz (KI) an, der die menschengerechte und ethische Entwicklung von KI in Europa gewährleisten soll.
In den Änderungsanträgen zu dem von der Europäischen Kommission vorgelegten Vorschlag wollten die Mitglieder des Europäischen Parlaments (MdEP) sicherzustellen, dass KI-Systeme von Menschen überwacht werden sowie sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Diese neuen KI-Regeln würden einem risikobasierten Ansatz folgen und Verpflichtungen für Anbieter und Nutzerinnen und Nutzer festlegen, die sich nach dem Risikoniveau richten, das die KI erzeugen kann. KI-Systeme mit einem inakzeptablen Risikoniveau für die Sicherheit der Menschen wären strengstens verboten, einschließlich solcher Systemen, die unterschwellige oder absichtlich manipulative Techniken einsetzen, menschliche Schwachstellen ausnutzen oder für soziales Scoring verwendet werden wie beispielsweise die Klassifizierung von Menschen aufgrund ihres Sozialverhaltens, sozioökonomischen Status oder persönlicher Merkmale.
Folgende aufdringlichen und diskriminierenden Anwendungen von KI-Systemen sollen verboten werden:
- Biometrische Identifizierungs- und Gesichtserkennungssysteme im öffentlichen Raum in Echtzeit;
- Biometrische Fernidentifikationssysteme im Nachhinein, mit der einzigen Ausnahme der Strafverfolgung von schweren Verbrechen und nur nach richterlicher Genehmigung;
- Biometrische Kategorisierungssysteme, die sensible Merkmale wie Geschlecht, ethnische Zugehörigkeit, Staatsbürgerschaft, Religion und politische Orientierung verwenden;
- Prädiktive polizeiliche Systeme basierend auf einer Profilerstellung, dem Standort oder früherem kriminellen Verhalten von Personen;
- Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen; und zudem
- das wahllose Auslesen biometrischer Daten aus sozialen Medien oder Videoaufzeichnungen zur Erstellung von Gesichtserkennungsdatenbanken, da dies gegen die Menschenrechte und das Recht auf Privatsphäre verstößt.
Zudem erweiterten die MdEP die Klassifizierung als Hochrisiko auf die Bereiche Gesundheit, Sicherheit, Grundrechte sowie Umwelt und stuften KI-Systeme als hochriskant ein, die Wählerinnen und Wähler in politischen Kampagnen oder Empfehlungssystemen beeinflussen, die von Social-Media-Plattformen mit mehr als 45 Millionen Nutzerinnen und Nutzern unter dem Digital Services Act verwendet werden.
Ursula Pachl, stellvertretende Generaldirektorin der Europäischen Verbraucherorganisation BEUC, kommentierte dies: „Angesichts der explosionsartigen Zunahme von ChatGPT und der täglichen Nachrichten über die neuesten KI-Systeme ist klar, dass wir erst am Anfang des KI-Zeitalters stehen. Obwohl KI unser Leben in vielerlei Hinsicht verbessern kann, gibt es begründete Sorgen, dass KI-Systeme Verbraucherinnen und Verbrauchern auch schaden können. Die Menschen müssen angemessen vor den Risiken dieser neuen Technologien geschützt werden. Das Ergebnis der heutigen Abstimmung zeigt, dass das Europäische Parlament entschlossen ist, den Verbraucherschutz zu verbessern und die Grundrechte der Nutzer von KI-Systemen zu achten. Wir sind jedoch sehr besorgt darüber, dass KI-Anbieter die Vorschriften des KI-Gesetzes umgehen könnten, indem sie einfach behaupten, ihre Dienste seien nicht hochriskant. Auch die vorgeschlagenen Grundprinzipien für „vertrauenswürdige KI“, die für alle KI gelten sollen, sind für Unternehmen und öffentliche Einrichtungen nur freiwillig, während sie eigentlich obligatorisch sein sollten.”
Quelle: EP & BEUC
Weitere Informationen und BEUC-Pressemitteilung