EU-Kommission schlägt Rechtsrahmen für KI vor

5. Mai 2021 Benn-Ibler Rechtsanwälte

Die Europäische Kommission hat am 21.04.2021 den Vorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI) vorgelegt (Artificial Intelligence Act). Dieser Vorschlag stellt den ersten Rechtsrahmen der Europäischen Kommission für KI dar.

Nachstehend werden die wesentlichen Elemente des Vorschlags skizziert:

• Es wird ein risikobasierter Ansatz verfolgt. Im Vorschlag ist zwischen Anwendungen mit einem akzeptablen, einem hohen und einem geringen Risiko zu differenzieren. Folglich ergibt sich eine Liste von verbotenen KI-Systemen, die als inakzeptabel gelten, da sie gegen die Werte der EU verstoßen.
• Es sind besondere Vorschriften für KI-Systeme mit einem hohen Risiko für Gesundheit und Sicherheit oder Grundrechte vorgesehen. Dabei richten sich diese Vorschriften nach dem Verwendungszweck des KI-Systems in Übereinstimmung mit den bestehenden Rechtsvorschriften zur Produktsicherheit.
• Transparenzverpflichtungen sind für Systeme vorgesehen, welche mit Menschen interagieren (zB Chatbots), zur Erkennung von Emotionen oder zur Bestimmung der Zugehörigkeit zu Kategorien auf Grundlage biometrischer Daten verwendet werden, sowie Inhalte erzeugen oder manipulieren (zB Deep Fakes).
•  Das “European Artificial Intelligence Board“, zusammengesetzt aus Vertretern der Mitgliedsstaaten und der Kommission, wird sich um eine harmonisierte Umsetzung dieser Verordnung kümmern.
• Nationale Behörden (zB nationale Aufsichtsbehörden) sollen die Anwendung und Umsetzung der Verordnung überwachen.
•  Anbieter von KI-Systemen trifft die Verpflichtung KI-bezogene Vorfälle zu melden und zu untersuchen. Die Meldepflicht gilt auch für Fehlfunktionen.
•  Es sind drei Sanktionsstufen vorgesehen: bis zu 10, 20 und 30 Millionen EUR oder, falls es sich um ein Unternehmen handelt, bis zu 2%, 4% und 6% des gesamten weltweiten Jahresumsatzes im vorangegangenen Geschäftsjahr, abhängig davon, welcher Betrag höher ist.

Der Vorschlag wird vom Europäischen Rat und dem Parlament geprüft und beraten.

European Commission (21.04.2021), COM (2021) 206 final, 2021/0106 (COD).