Die Europäische Kommission präsentierte heute einen neuen Verordnungsentwurf mit konkreten Vorschriften und Maßnahmen, um die Entwicklung künstlicher Intelligenz (KI) in Europa voranzutreiben.
Diese KI-Verordnung sieht einen weltweit erstmaligen Rechtsrahmen vor sowie einen „Koordinierten Plan für KI“ zu den für Mitgliedstaaten notwendigen politischen Veränderungen und Investitionen zur Förderung von KI.
Dies ist eine Weiterführung der 2018 veröffentlichten europäischen KI-Strategie und soll die Sicherheit und Grundrechte der Menschen und Unternehmen in Bezug auf KI gewährleisten und zugleich auf EU-Ebene die Verbreitung von KI sowie entsprechende Investitionen und Innovationen fördern.
Der Legislativvorschlag verfolgt einen risikobasierten Ansatz, der KI-Systeme wie folgt kategorisiert:
-
Unannehmbares Risiko: Es sollen KI-Systeme oder -Anwendungen verboten werden, die menschliches Verhalten manipulieren, um den freien Willen der Nutzerinnen und Nutzer zu umgehen bspw. wie Spielzeuge mit Sprachassistent, die Minderjährige zu gefährlichem Verhalten ermuntern, oder Anwendungen, die Social Scoring ermöglichen bspw. wenn Behörden individuelles Sozialverhalten bewerten.
-
Hohes Risiko: KI-Systeme, die unter anderem in kritischen Infrastrukturen (Verkehr), der Schul- und Berufsausbildung (Bewertung von Prüfungen), privaten und öffentlichen Dienstleistungen (Bewertung von Kreditwürdigkeit) oder in der Rechtspflege und demokratischen Prozessen (Anwendung von Rechtsvorschriften auf konkrete Sachverhalte) zum Einsatz kommen, sollen strenge Vorgaben erfüllen – wie bspw. angemessene Risikobewertungs- und Risikominderungs-Systeme, eine hohe Qualität der Datensätze, eine ausführliche Dokumentation und eine angemessene menschliche Aufsicht zur Minimierung der Risiken.
-
Geringes Risiko: Besondere Transparenzverpflichtungen gelten für den Umgang mit KI-Systemen wie bspw. Chatbots, bei denen Nutzerinnen und Nutzer darüber aufgeklärt werden sollen, dass es sich um eine Maschine handelt und sie sich so bewusst dafür oder dagegen entscheiden können.
-
Minimales Risiko: Dies betrifft die große Mehrheit der KI-Systeme wie bspw. KI-gestützte Videospiele oder Spamfilter, die ein minimales Risiko für Bürgerrechte oder Sicherheit darstellen und deren freie Nutzung ohne legislative Restriktionen möglich sein soll.
Klaus Müller, VZBV-Präsident, merkte hierzu an: „Der VZBV begrüßt, dass die Kommission plant Regeln für KI-Anwendungen einzuführen. Leider ist der Ansatz kraft- und mutlos: Er konzentriert sich auf eine begrenzte Auswahl hochriskanter Systeme. Alle anderen Systeme, inklusive den Systemen mit „mittelhohem“ Risiko, werden vernachlässigt. Somit bleiben Verbraucher in vielen Bereichen ungeschützt. (…) In puncto Transparenz enttäuscht der Vorschlag ebenfalls: Vorgesehen sind allein Kennzeichnungspflichten, die nur für Systeme zur Emotionserkennung gelten oder wenn KI mit Personen interagiert. Doch damit Verbraucherinnen und Verbraucher selbstbestimmt ihre Rechte wahrnehmen können, müssen ihnen deutlich mehr Informationen vorliegen. Dazu zählen auch Informationen zu Risiken, Fehlergenauigkeit sowie die Datengrundlage einer Entscheidung. Statt einer unabhängigen Kontrollinstanz, sollen Anwenderinnen und Anwender größtenteils selber kontrollieren, ob hochriskante KI-Systeme Qualitätsvorgaben einhalten und rechtskonform sind. Das schadet dem Vertrauen in und der Akzeptanz von KI.“
Monique Goyens, BEUC Director General, kommentierte: „Künstliche Intelligenz wird bereits in Form von virtuellen Assistenten, bei selbstfahrenden Fahrzeugen und bei Chatbots im Kundendienst verwendet. Der heutige Vorschlag verfehlt das Ziel, wenn es um den Schutz der Verbraucherinnen und Verbraucher geht. Es ist von größter Bedeutung, dass dieser Vorschlag verbessert wird, damit Verbraucherschutz mit dem technologischen Fortschritt Schritt halten kann. Die Menschen sollten in der Lage sein, jedem KI-basierten Produkt oder Dienstleistung zu vertrauen, egal ob es sich dabei um ein "hohes", "mittleres" oder "geringes" Risiko handelt. Die EU muss mehr tun, um sicherzustellen, dass Verbraucherinnen und Verbraucher einklagbare Rechte sowie Zugang zu Rechtsmitteln für Schadenersatz und Entschädigungen haben, falls etwas schiefgeht.“
Quelle: EK, BEUC & VZBV
Weitere Informationen, VZBV-Pressemitteilung und BEUC Pressemitteilung