EU-Kommission legt Entwurf für KI-Haftungsregeln vor

28. Okt. 2022 Benn-Ibler Rechtsanwälte

Die EU-Kommission hat einen Entwurf für eine Richtlinie vorgelegt, mit der harmonisierte Regeln für die außervertragliche Haftung für Schäden durch Künstliche Intelligenz (KI) geschaffen werden sollen.

Offenlegung von Beweismitteln

Wer einen Schadenersatzanspruch aufgrund von Ergebnissen oder unterbliebenen erwarteten Ergebnissen eines KI-Systems geltend macht oder machen möchte, soll in Zukunft schon vor Einbringung der Klage die Offenlegung von Beweismitteln durch den KI-Anbieter gerichtlich verlangen können. Dies gilt aber nur, wenn der Schaden durch eine Hochrisiko-KI verursacht wurde.

Vermutetes Verschulden

Kommt ein beklagter Anbieter einer Hochrisiko-KI einer gerichtlichen Offenlegungsanordnung nicht nach, so wird widerlegbar vermutet, dass er gegen seine einschlägige Sorgfaltspflicht verstößt (= Verschulden).

Vermuteter Kausalzusammenhang

Zentrale Bestimmung der Richtlinie ist Artikel 4. Er gibt vor, wann ein ursächlicher Zusammenhang zwischen dem Verschulden des Beklagten und dem vom KI-System hervorgebrachten Ergebnis bzw dem nicht hervorgebrachtem Ergebnis vermutet wird. Dies ist der Fall, wenn

• ein verschuldeter Verstoß gegen eine Schutznorm nachgewiesen oder vermutet wird (siehe oben),
• nach vernünftigem Ermessen davon ausgegangen werden kann, dass das Verschulden das Ergebnis des KI-Systems beeinflusst hat und
• der Kläger einen Schaden, der durch das Ergebnis oder das unterbliebene Ergebnis des KI-Systems hervorgebracht wurde, nachweist.

Für Hochrisiko-KI-Systeme gilt diese Vermutung nur, wenn dessen Anbieter (Hersteller) oder Nutzer gegen bestimmte Anforderungen aus dem Gesetz über Künstliche Intelligenz (EU Artificial Intelligence Act, derzeit noch im Verhandlungsstadium) verstößt. Die Einschränkung ist durch den (geplanten) strengen aufsichtsrechtlichen Rahmen für solche Systeme durchaus gerechtfertigt.

Außerdem gilt die Vermutung nicht, wenn der Beklagte nachweisen kann, dass der Kläger zu vertretbaren Bedingungen auf ausreichende Beweismittel und Fachkenntnisse zugreifen kann, um den Kausalzusammenhang zu beweisen.

Bei „normalen“ KI-Systemen gilt die Vermutung nur, wenn es für den Kläger sonst übermäßig schwierig ist, den Kausalzusammenhang zu beweisen.

Erleichterungen gibt es auch, wenn der Beklagte die KI nur im Rahmen einer persönlichen nicht beruflichen Tätigkeit verwendet.

EU-Kommission, Entwurf – 2022/0303 (COD) (03.10.2022)