Verpflichtung zur KI-Kompetenz: Unternehmen müssen Mitarbeiterschulungen durchführen
Eine zentrale Neuerung des AI Acts ist die Verpflichtung zur Schulung von Mitarbeiter:innen. Ab dem 2. Februar 2025 müssen Unternehmen sicherstellen, dass ihr Personal ausreichend geschult ist, um KI-Systeme sachkundig zu nutzen und deren Risiken zu verstehen.
Das bedeutet konkret:
· Unternehmen müssen Schulungsprogramme implementieren.
· Beschäftigte müssen KI-Anwendungen und deren Umgang verstehen.
· Die Schulung muss sich an der Komplexität und dem Einsatzbereich der im Unternehmen genutzten KI orientieren.
Ziel ist es, Missbrauch zu verhindern und Vertrauen in KI-Systeme zu stärken.
Hintergrund und Zielsetzung des AI Act
Der AI Act ist die erste umfassende Regulierung für KI-Anwendungen innerhalb der EU und setzt globale, ethische und rechtliche Standards. Der rechtliche Rahmen orientiert sich am risikobasierten Ansatz: Je höher das Risiko einer KI-Anwendung für Menschen oder gesellschaftliche Strukturen, desto strenger die Vorschriften. Der AI Act ergänzt bestehende Regelungen wie die EU-Datenschutz-Grundverordnung (DSGVO) und setzt neue Transparenz-, Sicherheits- und Haftungsstandards für den Einsatz von KI-Systemen.
Zeitplan und wichtige Meilensteine
Die Umsetzung des AI Acts erfolgt schrittweise:
1. August 2024: Inkrafttreten des AI Acts.
1. Februar 2025: Verbot bestimmter KI-Systeme mit hohem Risiko und Start der Schulungspflicht.
1. August 2026: Weitere Transparenzvorgaben, u.a. für generative KI-Systeme.
Hochrisiko-KI: Extra Übergangsfrist von 36 Monaten zur Einhaltung der neuen Regeln.
Der risikobasierte Ansatz: Kategorisierung von KI-Anwendungen
Ein zentraler Bestandteil des AI Acts ist die Einteilung von KI-Systemen in verschiedene Risikoklassen:
a) Unannehmbares Risiko (Verbotene KI)
KI-Systeme, die gegen Grundrechte verstoßen oder ein hohes Missbrauchspotenzial aufweisen, werden verboten. Dazu zählen:
· Social Scoring-Systeme zur Bewertung von Individuen (wie in China)
· KI-gestützte Manipulation, die menschliches Verhalten unbemerkt beeinflusst
· Echtzeit-Biometrieerkennung in öffentlichen Räumen (mit wenigen Ausnahmen)
b) Hohes Risiko
KI-Systeme, die in kritischen Bereichen eingesetzt werden, müssen strenge Auflagen erfüllen. Diese gelten insbesondere für Anwendungen in:
· Medizin und Gesundheitswesen
· Justiz und Strafverfolgung
· Personalmanagement (z.B. automatisierte Bewerberauswahl)
· Kritische Infrastrukturen (z.B. Energie- oder Verkehrssektor)
Hochrisiko-KI muss dokumentiert, transparent und sicher sein. Unternehmen müssen zudem eine Risikoanalyse durchführen und sicherstellen, dass die KI menschenüberwacht wird.
c) Begrenztes Risiko
KI-Systeme mit mittlerem Risiko unterliegen vor allem Transparenzanforderungen. Dazu gehören:
· Chatbots und Sprachassistenten (Nutzer müssen darüber informiert werden, dass sie mit KI interagieren)
· Deepfake-Technologien (kennzeichnungspflichtig)
· Generative KI wie ChatGPT oder Midjourney (Regeln für die Quellenangabe von Trainingsdaten)
d) Minimales Risiko
KI-Anwendungen mit geringem Risiko unterliegen keinen speziellen Vorschriften. Beispiele sind KI-gestützte Rechtschreibprüfungen oder automatisierte Produktempfehlungen in Online-Shops.
So können Sie sich vorbereiten
Die Einhaltung des AI Acts erfordert frühzeitige Maßnahmen. Berücksichtigen Sie folgende Schritte:
1. Bestandsaufnahme und Risikoanalyse:
o Welche KI-Systeme werden aktuell genutzt?
o In welche Risikoklasse fallen diese?
o Welche Anpassungen sind erforderlich?
2. Compliance-Strategie entwickeln:
o Implementierung von internen Kontrollmechanismen
o Sicherstellung der Dokumentationspflichten
o Einführung von Risikomanagementprozessen
3. Schulungs- und Sensibilisierungsmaßnahmen starten:
o Mitarbeiterschulungen etablieren
o KI-Know-how im Unternehmen ausbauen
o Interne und externe Experten einbinden
4. Transparenz und Ethik sicherstellen:
o Transparenzrichtlinien für KI-gestützte Entscheidungen umsetzen
o Klare Kennzeichnungspflichten einhalten
o Datenschutz- und Sicherheitsstandards überprüfen
Fazit: Jetzt handeln, um vorne zu bleiben!
Die Schulungspflicht ist kein bürokratischer Mehraufwand – sie gibt Ihnen einen Vorsprung! Unternehmen, die frühzeitig auf Wissen und Compliance setzen, gewinnen nicht nur Rechtssicherheit, sondern auch das Vertrauen von Kunden und Partnern. Wir beraten Sie gerne.