Die Europäische Union arbeitet an einer Verordnung zur Reglementierung von KI Anwendungen (https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206). Ziel ist die Rechte der Bürger:innen und Grundsätze der europäischen Union zu schützen. Die Legaldefinition von Künstlicher Intelligenz ist im Vorschlagsdokument sehr weit gefasst und schließt neben Machine Learning auch Expertensysteme, Logik- und Wissensgestützte Systeme und Software ein die statische Methoden nutzt ein.
Der Vorschlag sieht die Klassifizierung von KI Anwendungen in 3 Gruppen vor. Verbotene Systeme die nicht, oder nur mit Ausnahmeregelungen genutzt werden dürfen. Ein Beispiel für eine verbotene KI Anwendungen ist Social Scoring durch staatliche Stellen wie man es aus China kennt. Hochrisikosysteme hinsichtlich der Gesundheit, Sicherheit und Grundrechte unterliegen strengen Anforderungen hinsichtlich der Erstellung und Betrieb. Es ist auch vorgesehen eine Registrierungspflicht dieser Systeme vorzuschreiben inkl. laufender Evaluierung und Neuregistrierung bei signifikanten Änderungen. Ein Beispiel für ein Hochrisikosystem ist eine KI gestützt HR Lösung die Bewerber hinsichtlich ihrer Eignung vorselektiert. Systeme mit geringen Risiko bleiben weitgehend von einer Regulierung verschont. Beispiel für ein System mit geringem Risiko ist eine KI Anwendung die einen Vorschlag zur Beschaffung für nächsten Monat erstellt.
Die Strafdrohungen bei Verstoß gegen die Verordnung sind sehr hoch und können bis zu 30 Millionen Euro oder 6% des weltweiten Jahresumsatz betragen.
Aus dem aktuellen Entwurf ergeben sich noch viele offene Fragen. So ist zum Beispiel die Biometrische Fernidentifizierung als verbotene KI Anwendung klassifiziert aber es sollen großzügige Ausnahmen für die Strafverfolgung möglich sein. Unklar ist auch wen welche Pflichten treffen wenn Anwendung KI Komponenten von Drittherstellern enthalten. Den Anbieter der KI Komponenten, den Entwickler der Anwendung, den Betreiber im Datacenter, den Kunden der Anwendung einsetzt?