EU AI ACT & KI-KOMPETENZ

    EU AI Act und KI-Kompetenz (AI Literacy)

    Was Unternehmen wissen müssen

    Der EU AI Act wird häufig als Begründung für verpflichtende KI-Trainings angeführt. Doch schreibt die Verordnung tatsächlich Schulungen vor? Was regelt sie konkret zur KI-Befähigung – und welche Anforderungen ergeben sich daraus für Unternehmen?

    Die folgenden Informationen ordnen die Regelung sachlich ein.

    EU AI Act – Sicherstellung von KI-Kompetenz

    Der maßgebliche Abschnitt zum Thema „KI-Kompetenz“ (AI Literacy) ist Artikel 4 der Verordnung. Dort heißt es:

    „Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“

    (Artikel 4 EU AI Act)

    Was bedeutet das konkret?

    Wer ist betroffen?

    Artikel 4 gilt für Anbieter und Betreiber von KI-Systemen.

    • Anbieter entwickeln oder vertreiben KI-Systeme.
    • Betreiber setzen KI-Systeme im eigenen Unternehmen ein.

    Der Begriff „Betreiber“ ist leicht missverständlich. Gemeint ist damit das Unternehmen, das KI nutzt. Damit gilt: Jedes Unternehmen, das KI-Anwendungen im Arbeitsalltag einsetzt – unabhängig davon, ob diese selbst entwickelt oder eingekauft wurden – fällt unter diese Regelung.

    Die Pflicht umfasst sowohl eigene Mitarbeitende als auch externe Personen, die im Auftrag des Unternehmens mit KI arbeiten.

    Wie muss KI-Kompetenz sichergestellt werden?

    Unternehmen müssen geeignete Maßnahmen ergreifen, um ein ausreichendes Maß an KI-Kompetenz sicherzustellen.

    Die Verordnung schreibt jedoch keine bestimmten Trainingsformate, keine Zertifikate und keine Mindeststunden vor. Die Art der Umsetzung liegt im Verantwortungsbereich des Unternehmens. Maßstab ist die Angemessenheit im jeweiligen Unternehmenskontext.

    Welcher Maßstab gilt?

    Der EU AI Act folgt einem risikobasierten Ansatz. D.h. es gibt kein einheitliches Schulungsniveau für alle. Entscheidend sind unter anderem:

    • Kenntnisse und Erfahrung der betroffenen Personen,
    • Rolle und Aufgabenbereich,
    • Art des eingesetzten KI-Systems,
    • Einsatzkontext und mögliche Auswirkungen auf Betroffene.

    Je höher die potenziellen Auswirkungen einer Anwendung, desto höher die Anforderungen an Kompetenz und organisatorische Absicherung.

    Grafik: Risikobasierter Ansatz des EU AI Act – Übersicht der Risikoklassen

    Was bedeutet „KI-Kompetenz“?

    Die Definition findet sich in Artikel 3 Nr. 56:

    „‚KI-Kompetenz‘ bezeichnet die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“

    KI-Kompetenz umfasst damit:

    • Wissen über Funktionsweise und Grenzen von KI-Systemen,
    • die Fähigkeit zur sachgerechten Anwendung,
    • ein Bewusstsein für Risiken und mögliche Schäden,
    • sowie Verständnis der rechtlichen und organisatorischen Rahmenbedingungen.

    Geltung, Durchsetzung und Konsequenzen

    1. August 2024

    EU AI Act in Kraft getreten

    2. Februar 2025

    Pflicht zur KI-Kompetenz gilt

    2. August 2026

    Vollständige Anwendung des EU AI Act

    Die Einhaltung wird durch nationale Marktüberwachungsbehörden überwacht. Bei der Verarbeitung personenbezogener Daten sind zusätzlich die Datenschutzaufsichtsbehörden zuständig.

    Der EU AI Act sieht Bußgelder für Verstöße vor. Deren Höhe hängt von Art und Schwere des jeweiligen Verstoßes ab.

    Für Artikel 4 gibt es keine eigenständige „Schulungspflicht-Strafe“. Maßgeblich ist, ob ein Unternehmen angemessene organisatorische Maßnahmen getroffen hat.

    Kommt es zu einem Vorfall, z.B. einer diskriminierenden Entscheidung oder einem Datenschutzverstoß, wird geprüft, ob:

    • Risiken bewertet wurden,
    • interne Leitlinien bestanden,
    • Mitarbeitende angemessen befähigt waren,
    • Verantwortlichkeiten geregelt waren.

    Fehlen solche Maßnahmen, kann dies als Verstoß gegen die Verordnung gewertet werden.

    Artikel 4 wird daher in der Praxis vor allem im Zusammenhang mit konkreten Vorfällen relevant.

    Weiterführende Informationen

    EU AI Act – Volltext

    Verordnung (EU) 2024/1689, Amtsblatt der Europäischen Union

    Zum Volltext

    Europäische Kommission

    Überblick zum EU AI Act

    Zur Übersicht

    KI sicher einsetzen & EU AI Act

    Unsere Masterclass für die praktische Umsetzung – für Mitarbeitende und Führungskräfte.

    Zur Masterclass

    KI-Kompetenz in Ihrem Unternehmen aufbauen?

    Unsere Trainings helfen Ihnen, die Anforderungen des EU AI Act praxisnah umzusetzen.

    Unsere Trainings ansehen →