KI-Kompetenz als zentrale Fähigkeit im Rechtsbereich: Eine Notwendigkeit für die Zukunft

5. Nov. 2024 Benn-Ibler Rechtsanwälte

Mit der zunehmenden Integration von künstlicher Intelligenz (KI) in die Rechtswelt und die öffentliche Verwaltung wird die KI-Kompetenz zu einer unerlässlichen Fähigkeit. KI-Kompetenz bedeutet nicht nur die Bedienung von Tools zu beherrschen, sondern auch ein fundiertes Verständnis der Algorithmen, ihrer Stärken und Schwächen, potenziellen Verzerrungen und ethischen Auswirkungen.

Art 4 (KI-Kompetenz) der KI-Verordnung bestimmt:

„Die Anbieter und Betreiber von KI‑Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, über ein ausreichendes Maß an KI‑Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI‑Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI‑Systeme eingesetzt werden sollen, zu berücksichtigen sind.“

Art. 3 (Begriffsbestimmungen) Zi. 56 bestimmt:

„KI‑Kompetenz“ die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.

Was genau KI-Kompetenz ist, bleibt dabei aber offen, da die Begriffsbestimmung abstrakt bleibt. In der Literatur ist der Begriff schon länger etabliert und durchaus mit Inhalt gefüllt. Nachstehend daher eine tiefgehende Erörterung des Begriffes und was dieser umfasst.

Definition von KI-Kompetenz

KI-Kompetenz umfasst das Wissen und die Fähigkeiten, KI-Systeme zu verstehen, ihre Ergebnisse kritisch zu bewerten und ethische Herausforderungen zu erkennen. Im Rechtsbereich geht es darum, dass Fachleute in der Lage sind, KI-basierte Entscheidungen zu hinterfragen, Verzerrungen zu erkennen und sicherzustellen, dass Ergebnisse den rechtlichen und ethischen Normen entsprechen.

Mehrstufiges Modell der KI-Kompetenz

• Grundlegendes Niveau: Vermittlung von Basiswissen über KI, einschließlich grundlegender Konzepte und Anwendungen. Ziel ist es, ein allgemeines Bewusstsein für KI zu schaffen.
• Mittleres Niveau: Vertiefte Kenntnisse über rechtliche KI-Tools, deren Integration in Arbeitsabläufe und die rechtlichen Rahmenbedingungen, wie die EU KI-Verordnung (Art. 4 der EU AI Act), die klare Vorschriften zu Hochrisiko-KI-Systemen wie denen in der Justiz und öffentlichen Verwaltung enthält.
• Fortgeschrittenes Niveau: Fachleute auf diesem Niveau sollten in der Lage sein, komplexe KI-Systeme zu verstehen, technische Entscheidungen zu bewerten, KI-Projekte zu leiten und für ethische Standards zu sorgen.

Verantwortlichkeit und Qualifikation als Hochrisiko-Anwendung

Gemäß der EU KI-Verordnung müssen Hochrisiko-KI-Systeme strenge Anforderungen erfüllen. Dies betrifft insbesondere Anwendungen in der Justiz und öffentlichen Verwaltung, die oftmals als Hochrisiko-KI eingestuft werden, da sie entscheidenden Einfluss auf die Rechte und Freiheiten von Einzelpersonen haben. Verantwortlich für die Schulung und Weiterbildung der Benutzer sind die jeweiligen Institutionen und Aufsichtsbehörden, die sicherstellen müssen, dass die Anwender ausreichend qualifiziert sind, um die Systeme kritisch zu hinterfragen und zu überwachen.

Ausblick zur KI-Kompetenz

Die Zukunft des Rechtsbereichs wird durch fortschreitende digitale Workflows und eine steigende Komplexität von KI-Systemen geprägt sein. Eine zentrale Rolle spielt dabei die Fähigkeit, KI-Ergebnisse zu erklären und transparent darzustellen. Die Einhaltung der Standards gemäß Art. 4 der EU KI-Verordnung und die Verantwortung für Anbieter und Betreiber für die Schulung sind unerlässlich, um Vertrauen und Transparenz zu gewährleisten.

Sinnvoll wäre es bereits in der Ausbildung (Schule, Lehre, Studium, etc.) die Notwendigkeit der Schulung in KI-Kompetenz zu forcieren und in Lehrpläne zu integrieren. Schulungswege müssen auch kontinuierlich sein, da KI-Systeme sich laufend fortentwickeln und daher der Umfang der KI-Kompetenz veränderlich ist.

Fazit zur KI-Kompetenz

Die Förderung der KI-Kompetenz ist von zentraler Bedeutung, um die Rechtswelt verantwortungsvoll in eine KI-gesteuerte Zukunft zu führen. Juristische Fachkräfte müssen nicht nur technisch versiert sein, sondern auch in der Lage sein, die ethischen Auswirkungen von KI zu erkennen und zu steuern. Dies wird besonders wichtig, da viele Anwendungen im öffentlichen Bereich und in der Justiz als Hochrisiko eingestuft werden. Indem wir KI-Kompetenz in die Aus- und Weiterbildung einbinden, können wir eine Rechtslandschaft schaffen, die Verantwortung und Integrität in einer zunehmend digitalisierten Welt wahrt.