EU: Neue KI-Verordnung – Regeln für sichere künstliche Intelligenz

28. Juli 2023 Benn-Ibler Rechtsanwälte

Das Europäische Parlament nahm am 14.06.2023 nach zweijähriger Verhandlung den Kompromisstext zum Gesetz über Künstliche Intelligenz (KI) an. Die nächsten Schritte sind nun die Gespräche mit den EU-Mitgliedsstaaten über die endgültige Form des Gesetzes. Bis Ende 2023 könnte die Verordnung zum Abschluss gebracht werden.

Die Vorschriften sollen die Einführung von menschenzentrierter und vertrauenswürdiger KI fördern und Gesundheit, Sicherheit, Grundrechte und Demokratie vor schädlichen Folgen schützen. Die Kommissionsvertreter betonten aber auch, dass es um Innovationsförderung gehe, um die KI gezielt innerhalb der EU voranzubringen.

In der EU entwickelte und eingesetzte KI soll in vollem Umfang den Rechten und Werten der Europäischen Union entsprechen. Das umfasst, dass sie von Menschen beaufsichtigt wird, Anforderungen an Sicherheit, Datenschutz und Transparenz genügt, niemanden diskriminiert und weder Gesellschaft noch Umwelt schädigt.

Der Entwurf ordnet generative KI-Anwendungen, wie auch ChatGPT, bestimmten Risikogruppen zu. Damit verbunden sind dann Sicherheits- und Transparenzanforderungen. KI-Systeme, die die menschliche Sicherheit in inakzeptabler Weise gefährden, sollen ganz verboten werden. Beispielsweise anzuführen sind „Social Scoring“, eine Klassifizierung natürlicher Personen auf der Grundlage ihres sozialen Verhaltens oder ihrer Persönlichkeitsmerkmale, oder vorausschauende Polizeiarbeit, die mit Profilerstellung und Standortermittlung arbeitet und aufgrund früheren kriminellen Verhaltens abschätzt, inwieweit eine Person Gefahr läuft, straffällig zu werden. Hochriskante KI, die die Gesundheit, Sicherheit und die Grundrechte erheblich gefährden, wurden in eine entsprechende Liste aufgenommen. Zu den Anwendungen zählen beispielsweise Systeme zur Beeinflussung von Wählern und Wahlergebnissen sowie Empfehlungssysteme von Social-Media-Plattformen.

Anbieter einer Neuentwicklung im KI-Bereich, die rasante Fortschritte macht, werden künftig verpflichtet die Risiken abschätzen und zu mindern und ihre Modelle in einer EU-Datenbank zu registrieren, bevor sie auf den EU-Markt kommen.

Gelten soll die Verordnung dann für alle Anbieter von Dienstleistungen und Produkten auf KI-Basis, die innerhalb der EU in den Verkehr gebracht oder in Betrieb genommen werden sowie für alle Nutzer der Systeme in der EU.

P9_TA (2023)0236 (14.06.2023)