Mit der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 – dem EU AI Act (Künstliche-Intelligenz-Verordnung) – hat die Europäische Union das weltweit erste umfassende horizontale Rechtsregelwerk für künstliche Intelligenz erlassen. Die Verordnung ist am 1. August 2024 in Kraft getreten. Ziel ist es, die Entwicklung und Nutzung vertrauenswürdiger, menschenzentrierter KI-Systeme zu fördern und gleichzeitig Grundrechte, Sicherheit, Demokratie und Rechtsstaatlichkeit vor potenziellen Risiken zu schützen.
Für Unternehmen bedeutet dies eine Zäsur: Der Einsatz von KI-Tools, automatisierten Entscheidungsverfahren und generativen Modellen unterliegt künftig strikten Governance-, Transparenz- und Sicherheitsvorgaben. Cybersicherheit und algorithmische Resilienz werden zu einer gesetzlichen Pflichtaufgabe für Vorstände, Geschäftsführer und IT-Leitungen.
Das risikobasierte Regulierungskonzept der EU
Der AI Act folgt einem gestuften Risikomodell für KI-Systeme, ergänzt durch ein eigenständiges Regime für Allzweck-KI-Modelle (General Purpose AI, GPAI):
| Risikoklasse | Typische Anwendungsbereiche | Gesetzliche Verpflichtungen |
|---|---|---|
| Unannehmbares Risiko (Verbotene Praktiken) | Social Scoring, kognitive Verhaltensmanipulation zur Ausnutzung von Schutzbedürftigkeiten, ungezieltes Scraping von Gesichtsbildern aus dem Internet oder von Videoüberwachungsaufnahmen (CCTV) zum Aufbau von Gesichtserkennungsdatenbanken, biometrische Kategorisierung natürlicher Personen nach sensiblen Merkmalen (politische Gesinnung, Gewerkschaftszugehörigkeit, Religion, philosophische Überzeugungen, sexuelle Orientierung oder Rasse), Predictive Policing zur individuellen Kriminalitätsvorhersage ausschließlich auf Basis von Profiling oder Persönlichkeitsmerkmalen, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sowie ab 2.12.2026 Systeme zur Erstellung/Verbreitung nicht-einvernehmlicher intimer Deepfakes und Darstellungen sexuellen Missbrauchs von Kindern (CSAM). | Grundsätzliches Verbot des Inverkehrbringens, der Inbetriebnahme und der Nutzung. Gesetzliche Ausnahmen gelten für biometrische Fernidentifizierung unter strengem richterlichem Genehmigungsvorbehalt (z. B. Abwehr akuter Terrorgefahren oder Suche nach Entführungsopfern) sowie für Emotionserkennung zu medizinischen oder Sicherheitszwecken. |
| Hochrisiko-KI | Kritische Infrastrukturen (Energie, Wasser, Verkehr), Medizintechnik, automatisierte HR-Bewerberauswahl, Kreditwürdigkeitsprüfungen, Justiz- und Asylverwaltung. | Strenge Anforderungen: Risikomanagementsystem über den Lebenszyklus, Daten-Governance, technische Dokumentation, automatische Protokollierung, menschliche Aufsicht (Human-in-the-Loop) und Cyber-Robustheit (Art. 15). |
| Spezifisches Transparenzrisiko | Systeme, die direkt mit Menschen interagieren (z. B. Chatbots), generative Systeme für Bild-, Audio- oder Videoinhalte (Deepfakes), Erzeugung veröffentlichter Informationstexte. | Differenzierte Transparenzpflichten (Art. 50): Information bei direkter Mensch-KI-Interaktion; maschinenlesbare Kennzeichnung synthetischer Inhalte; sichtbare Offenlegung von Deepfakes und veröffentlichter Informationstexte zu öffentlichen Angelegenheiten (vorbehaltlich berechtigter Ausnahmen). Pflichten verteilen sich rollenspezifisch auf Anbieter und Betreiber. |
| Minimales / kein Risiko | Spam-Filter, KI-gestützte Prozessoptimierung in der Fertigung, Videospiele, Standard-Übersetzungstools. | Grundsätzlich freie Nutzung ohne behördliche Vorabkontrollen. Maßnahmen zur KI-Kompetenz (Art. 4): Anbieter und Betreiber müssen nach besten Kräften Maßnahmen ergreifen, um ein ausreichendes Maß an KI-Kompetenz bei ihrem mit Konzeption und Betrieb befassten Personal sicherzustellen (unter Berücksichtigung von Vorwissen und Kontext; kein starres individuelles Garantie-Niveau). |
Das parallele Regime für General Purpose AI (GPAI)
Modelle mit allgemeinem Verwendungszweck (Foundation Models / Large Language Models) unterliegen den Bestimmungen des Kapitels V:
- Pflichten für alle GPAI-Anbieter: Erstellung und Bereitstellung technischer Dokumentationen, Einhaltung des Unionsrechts zum Urheberrecht (Copyright-Compliance) sowie Veröffentlichung einer öffentlich zugänglichen Zusammenfassung der verwendeten Trainingsdaten.
- GPAI-Modelle mit systemischem Risiko: Eine kumulierte Rechenleistung beim Modelltraining von mehr als 10^25 FLOPs begründet eine gesetzliche Vermutung für hohe Wirkkapazitäten und systemische Risiken. Ein systemisches Risiko kann jedoch auch anhand weiterer qualitativer Kriterien oder durch Beschluss der Europäischen Kommission festgestellt werden. Betroffene Modelle unterliegen verschärften Pflichten (kontinuierliche Modellbewertung, adversariale Tests/Red Teaming, Cyber-Resilienz und Meldung schwerwiegender Vorfälle an das EU AI Office).
Rollenlogik: Pflichten für Betreiber (Deployer)
Für die Mehrheit der Unternehmen in Industrie, Gesundheitswesen und Dienstleistung liegt die gesetzliche Relevanz nicht in der Rolle des KI-Entwicklers (Anbieter), sondern in der Rolle des Betreibers (Deployer gemäß Art. 26). Setzen Unternehmen Hochrisiko-KI ein, treffen sie konkrete Pflichten:
- Nutzung nach Vorgabe: Einsatz der Systeme ausschließlich im Einklang mit der mitgelieferten Betriebsanleitung des Anbieters.
- Menschliche Aufsicht (Human-in-the-Loop): Benennung fachlich qualifizierter und geschulter Mitarbeiter, die über die erforderliche Befugnis verfügen, KI-Ausgaben zu überprüfen, zu überstimmen oder den Betrieb bei Fehlfunktionen zu stoppen.
- Eingangsdaten-Qualität: Sicherstellung, dass die vom Betreiber eingegebenen Daten relevant und hinreichend repräsentativ für den Einsatzzweck sind.
- Protokoll-Aufbewahrung: Revisionssichere Aufbewahrung der automatisch generierten Systemprotokolle (Logs) für mindestens sechs Monate, soweit diese der Kontrolle des Betreibers unterliegen.
- Mitarbeiter- und Betroffeneninformation: Vorabinformation von Betriebsräten bzw. betroffenen Arbeitnehmern vor dem Einsatz von Hochrisiko-KI am Arbeitsplatz.
Cybersicherheit als Voraussetzung für vertrauenswürdige KI
Gemäß Artikel 15 müssen Hochrisiko-Systeme über ein angemessenes Niveau an Cybersicherheit und Robustheit verfügen, um folgenden Bedrohungen standzuhalten:
- Prompt Injection & Jailbreaking: Gezielte Manipulation von Eingabeaufforderungen bei LLMs, um Sicherheitsmechanismen zu umgehen, interne Systemanweisungen auszulesen oder vertrauliche Unternehmensdaten zu exfiltrieren.
- Data Poisoning: Gezielte Manipulation von Trainings-, Validierungs- oder Retrieval-Augmented-Generation-Daten (RAG), um Hintertüren im Modellverhalten zu verankern.
- Model Inversion & Membership Inference: Mathematische Angriffe auf Modellausgaben zur Rekonstruktion sensibler Trainingsdaten (Geschäftsgeheimnisse oder personenbezogene Daten).
- Lieferkettenrisiken bei Foundation Models: Sicherheitslücken in Open-Source-Bibliotheken, Modell-Gewichten oder externen KI-APIs von Drittanbietern.
Zeitplan der Übergangsfristen und Anpassungen durch den AI Omnibus
Die Anwendung der Verordnung erfolgt gestaffelt. Durch das Inkrafttreten des europäischen AI Omnibus am 27. Juli 2026 wurden die Fristen präzisiert und für Hochrisiko-Systeme harmonisiert:
- 1. August 2024: Formelles Inkrafttreten der Verordnung (EU) 2024/1689.
- 2. Februar 2025 (nach 6 Monaten): Geltungsbeginn der Verbote verbotener KI-Praktiken (Art. 5) sowie der Maßnahmen zur Förderung der KI-Kompetenz (AI Literacy, Art. 4).
- 2. August 2025 (nach 12 Monaten): Anwendbarkeit der Vorschriften für General Purpose AI (GPAI, Kapitel V), der Aufsichtsstrukturen (EU AI Office) und der Sanktionsbestimmungen.
- 2. August 2026: Allgemeine Anwendbarkeit des AI Act, Geltungsbeginn der Transparenzpflichten nach Art. 50 (bereits in Kraft!), Errichtung nationaler Aufsichtsbehörden und Reallabore (AI Regulatory Sandboxes).
- 2. Dezember 2026: Geltungsbeginn der durch den Omnibus ergänzten Verbotstatbestände (insbesondere Verbote von Systemen zur Erstellung/Verbreitung nicht-einvernehmlicher intimer Deepfakes sowie von Material über sexuellen Kindesmissbrauch / CSAM).
- 2. August 2027: Ende der Übergangsfristen für Alt-GPAI-Modelle (die vor August 2025 in Verkehr gebracht wurden), Kennzeichnungs-Schonfristen für bestehende generative Systeme sowie Wirksamwerden der delegierten Rechtsakte zur europäischen Maschinenverordnung.
- 2. Dezember 2027 (verschoben durch AI Omnibus): Geltungsbeginn der strengen Anforderungen an Hochrisiko-KI-Systeme nach Anhang III (ursprünglich für August 2026 vorgesehen).
- 2. August 2028 (verschoben durch AI Omnibus): Geltungsbeginn für produktbezogene Hochrisiko-KI-Systeme nach Anhang I Abschnitt A (z. B. Medizinprodukte nach MDR/IVDR, Kraftfahrzeuge, Zivilluftfahrt).
Wichtiger Hinweis für den Maschinenbau: Der Digital Omnibus hat die europäische Maschinenverordnung (EU) 2023/1230 aus Anhang I Abschnitt A in Abschnitt B überführt. KI in Maschinen gilt damit nicht mehr als Hochrisiko-KI nach Art. 6 Abs. 1 des AI Act; die spezifischen Cybersicherheits- und Konformitätsanforderungen werden stattdessen per delegiertem Rechtsakt direkt in das Konformitätsverfahren der Maschinenverordnung integriert und gelten ab dem 2. August 2027.
Sanktionsrahmen
Verstöße gegen die Bestimmungen des AI Act werden empfindlich sanktioniert, wobei die Verordnung zwischen allgemeinen Verstößen (Art. 99) und Pflichtverletzungen von GPAI-Anbietern (Art. 101) differenziert:
- Verstöße gegen Verbote verbotener KI-Praktiken (Art. 5): Geldbußen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes (bei KMU und Start-ups gilt der jeweils niedrigere Betrag).
- Verletzung von Pflichten für Hochrisiko-Systeme oder sonstige Betreiberpflichten: Geldbußen von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes (bei KMU und Start-ups der jeweils niedrigere Betrag).
- Unrichtige oder irreführende Angaben gegenüber Behörden: Bis zu 7,5 Millionen Euro oder 1,5 % des weltweiten Jahresumsatzes (bei KMU und Start-ups der jeweils niedrigere Betrag).
- Eigenständiges Sanktionsregime für GPAI-Modellanbieter (Art. 101): Bei vorsätzlicher oder fahrlässiger Verletzung der GPAI-Pflichten kann die EU-Kommission Geldbußen von bis zu 15 Millionen Euro oder 3 % des weltweiten Gesamtumsatzes verhängen (ohne die KMU-Privilegierung des Art. 99).
Handlungsempfehlungen für Vorstände und Geschäftsleitungen
- KI-Inventar erstellen (Shadow-AI verhindern): Vollständige Erfassung aller im Unternehmen genutzten KI-Lösungen, Cloud-Tools und interner Pilotprojekte.
- KI-Kompetenz fördern (AI Literacy): Umsetzung geeigneter Maßnahmen nach Art. 4 zur zielgruppengerechten Schulung des mit KI befassten Personals und der Führungskräfte.
- Betreiber-Governance etablieren: Definition von Richtlinien zur zulässigen Nutzung (Acceptable Use Policy), Festlegung von Freigabeprozessen und Zuweisung personeller Aufsichtsrollen für Hochrisiko-Anwendungen.
- Sicherheit von KI-Pipelines überprüfen: Technische Absicherung von RAG-Architekturen und API-Schnittstellen gegen Prompt Injection und unkontrollierten Datenabfluss.
Unterstützung durch Authenta
Authenta unterstützt Führungskräfte, CISO-Verantwortliche und Compliance-Teams bei der Konzeption praxisnaher KI-Governance-Richtlinien, der Durchführung von Risikoklassifizierungen und der Einbettung von KI-Systemen in das bestehende Informationssicherheits-Managementsystem (ISMS).