Die Entschlüsselung der EU Verordnung über künstliche Intelligenz Teil 3 – KI-Kompetenz Artikel 4

Die EU-Verordnung über künstliche Intelligenz (KI-Verordnung) ist der weltweit erste umfassende Rechtsrahmen für KI-Systeme. Sie verfolgt einen risikobasierten Ansatz, um Sicherheit, Grundrechte und Innovation gleichermaßen zu gewährleisten. Artikel 4 der Verordnung führt eine neuartige Verpflichtung für Anbieter und Verwender (Deployers) von KI-Systemen ein: Sie müssen ein „ausreichendes Maß an KI-Kompetenz“ bei ihrem Personal und anderen Personen sicherstellen, die mit dem Betrieb oder der Nutzung solcher Systeme betraut sind. Diese Verpflichtung ist weit mehr als ein formaler Compliance-Punkt – sie ist ein zentrales Element, um das transformative Potenzial von KI verantwortungsvoll und risikobewusst zu nutzen.

Die Anforderung „KI-Kompetenz“ ist seit dem 2. Februar 2025 durchsetzbar. Die Art und Weise, wie diese Anforderung erfüllt wird, ist jedoch recht flexibel und hängt von den jeweiligen Umständen ab, wie in einem kürzlich von der Europäischen Kommission veranstalteten Webinar zum Thema „KI-Kompetenz“ festgestellt wurde.

1. Was bedeutet „KI-Kompetenz“?

Artikel 4 legt fest: ‚Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.‘

Die Definition von KI-Kompetenz in Artikel 3 Absatz 56 lautet: ‚die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.‚

Zu den wesentlichen Bestandteilen von KI-Kompetenz zählen somit:

• Technisches Verständnis: Funktionsweise, Datenanforderungen und Grenzen des Systems kennen.
• Rechtliches und ethisches Bewusstsein: Pflichten nach der KI-Verordnung, menschenzentrierte Aufsicht, Diskriminierungsrisiken.
• Kontextsensibilität: Auswirkungen auf spezifische Nutzergruppen oder betroffene Personen erkennen.

2. Chancen durch KI-Kompetenz nutzen

KI-Kompetenz bietet Organisationen vielfältige Vorteile:

1. Verantwortungsvolle Innovation fördern
   • Fachlich geschultes Personal kann neue Einsatzmöglichkeiten für KI identifizieren und gleichzeitig Risiken frühzeitig adressieren.
   • Das Verständnis regulatorischer Anforderungen erleichtert die Markteinführung risikobehafteter Systeme.
2. Betriebliche Effizienz steigern
   • Kompetente Teams wählen passende Algorithmen, optimieren Datenflüsse und interpretieren Systemausgaben korrekt.
   • Transparente Prozesse verbessern die Integration von KI in bestehende Geschäftsabläufe.
3. Vertrauen aufbauen
   • Verständliche Dokumentation und erklärbare Entscheidungen stärken das Vertrauen von Kunden, Regulierungsbehörden und der Öffentlichkeit.
   • Der Nachweis systematischer Weiterbildung signalisiert ethisches und verantwortungsbewusstes Handeln.

3. Risiken Managen

Das Versäumnis, ein angemessenes KI-Kompetenzniveau sicherzustellen, birgt erhebliche Risiken:

• Regulatorische Sanktionen
  Fehlerhafte Konfigurationen im KI System – etwa bei biometrischer Überwachung oder kritischen Infrastrukturen – können zu Verstößen gegen die Verordnung und Bußgeldern von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes führen.
• Diskriminierende Ergebnisse
  Fehlendes Wissen über Trainingsdaten oder Modellverzerrungen kann zu unfairen Entscheidungen führen – z. B. bei Kreditvergabe, Personalgewinnung oder sozialer Unterstützung.
• Haftungsrisiken
  Bei durch KI verursachten Schäden können sowohl Anbieter als auch Verwender für Produkthaftung, Rückrufaktionen oder einstweilige Verfügungen haftbar gemacht werden.

4. Unterschiedliche Verantwortlichkeiten: Anbieter vs. Verwender

Beide Gruppen sind gemäß Artikel 4 verpflichtet, KI-Kompetenz sicherzustellen, jedoch auf unterschiedliche Weise:

Erwägungsgrund 91 unterstreicht, dass Verwender sicherstellen müssen, dass Personen mit Aufsichtsverantwortung über „die notwendige Kompetenz, insbesondere ein angemessenes Maß an KI-Kompetenz, Schulung und Befugnis“ verfügen.

5. Ein wirksames Kompetenzprogramm entwickeln

Wie bereits erwähnt, gibt es keinen festgelegten Weg, wie KI-Kompetenzen erworben werden müssen. Nachfolgend finden Sie jedoch ein Beispiel, wie eine Organisation damit beginnen kann:

1. Kompetenzlücken analysieren
   • Abgleich von vorhandenen Fähigkeiten mit den erforderlichen Kompetenzen für verschiedene Rollen.
2. Gestufte Schulungsprogramme entwickeln
   • Basis: Grundlagen der KI und rechtliche Rahmenbedingungen.
   • Fortgeschritten: Fachspezifische Inhalte für Entwickler, Compliance-Verantwortliche oder Entscheidungsträger.
   • Expertenniveau: Simulation von Risikoszenarien, praxisnahe Übungen.
3. Vielfältige Formate einsetzen
   • E-Learning, Präsenzseminare, interaktive Labore und organisationsübergreifende Lernformate.
4. Kontinuierliche Aktualisierung sicherstellen
   • Anpassung an neue technische Entwicklungen, EU-Leitlinien oder Erfahrungswerte aus Audits und Vorfällen.
5. Dokumentation und Nachweise führen
   • Aufbewahrung von Schulungsplänen, Teilnahmebelegen und Bewertungsergebnissen zur Vorlage bei Prüfungen.

6. Fazit: Von der Pflicht zur strategischen Führungsrolle

Artikel 4 der KI-Verordnung macht deutlich: KI-Kompetenz ist ein strategischer Hebel, nicht nur ein Compliance-Thema. Organisationen, die rechtzeitig in systematische Weiterbildung investieren, profitieren gleich mehrfach:

• Sie treiben sichere Innovation gezielt voran.
• Sie minimieren regulatorische und operative Risiken.
• Sie gewinnen das Vertrauen von Marktteilnehmern und Behörden.

Haftungsausschluss:

Die Inhalte dieses Blogs dienen ausschließlich allgemeinen Informationszwecken und stellen keine Rechtsberatung dar. Obwohl wir uns bemühen, die Informationen aktuell und korrekt zu halten, können sie nicht die neuesten rechtlichen Entwicklungen oder die spezifische Situation Ihres Unternehmens berücksichtigen. Leser sollten auf Grundlage der hier bereitgestellten Informationen nicht handeln, ohne vorher professionelle Rechtsberatung einzuholen. Durch die Nutzung oder das Vertrauen auf die Inhalte dieses Blogs entsteht kein Mandatsverhältnis