EU AI Act — Was Unternehmen wissen müssen

Was regelt der AI Act?

Der EU AI Act (Verordnung (EU) 2024/1689) wurde am 13. Juni 2024 vom Europäischen Parlament und dem Rat verabschiedet und am 12. Juli 2024 im Amtsblatt veröffentlicht. Er trat am 1. August 2024 in Kraft und wird stufenweise bis August 2027 vollständig anwendbar. Als Verordnung gilt der AI Act unmittelbar in allen EU-Mitgliedstaaten — eine nationale Umsetzung ist nicht erforderlich, allerdings müssen die Mitgliedstaaten nationale Aufsichtsbehörden benennen und Sanktionsregelungen verabschieden.

Der AI Act verfolgt einen risikobasierten Ansatz: Nicht jede KI-Anwendung wird gleich behandelt. Je höher das Risiko für Grundrechte, Sicherheit und Demokratie, desto strenger die Anforderungen. Damit vermeidet die EU eine pauschale Überregulierung, die Innovation bremsen würde, und konzentriert strenge Auflagen auf Anwendungen mit hohem Schadenspotenzial.

Der Anwendungsbereich ist bewusst breit gewählt und erfasst drei Hauptakteure: Anbieter (Provider) — Unternehmen, die KI-Systeme entwickeln oder in Verkehr bringen; Betreiber (Deployer) — Unternehmen, die KI-Systeme unter eigener Verantwortung einsetzen; und Importeure/Händler — Unternehmen, die KI-Systeme aus Drittstaaten in die EU einführen. Entscheidend: Der AI Act gilt auch für Anbieter außerhalb der EU, wenn ihre KI-Systeme in der EU eingesetzt werden (extraterritoriale Wirkung). Ein US-amerikanisches KI-Unternehmen, dessen System von einem deutschen Unternehmen genutzt wird, fällt unter den AI Act. Die Definition von „KI-System“ folgt der OECD-Definition: ein maschinenbasiertes System, das aus den erhaltenen Eingaben Schlussfolgerungen ableiten kann, um Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen zu generieren, die physische oder virtuelle Umgebungen beeinflussen können.

Risikoklassifizierung — die vier Stufen

Das Herzstück des AI Acts ist die Einteilung von KI-Systemen in vier Risikoklassen, die unterschiedliche regulatorische Anforderungen nach sich ziehen. Die korrekte Klassifizierung ist für Unternehmen der entscheidende erste Schritt — sie bestimmt, welche Pflichten gelten und welche Bußgelder bei Verstößen drohen.

Der risikobasierte Ansatz war eine bewusste Designentscheidung des EU-Gesetzgebers: Statt alle KI-Systeme gleich zu behandeln, werden die regulatorischen Anforderungen proportional zum Schadenspotenzial gestuft. Ein KI-gesteuerter Spam-Filter unterliegt keinen Auflagen, während ein KI-System, das über Kreditwürdigkeit oder Bewerberauswahl entscheidet, strengen Vorgaben genügen muss. Dieses Konzept soll Innovation ermöglichen und gleichzeitig Grundrechte schützen.

• Unakzeptables Risiko — Verbotene KI-Praktiken (Titel II, Art. 5): Bestimmte KI-Anwendungen sind in der EU vollständig verboten, da sie als unvereinbar mit den europäischen Grundwerten gelten. Dazu gehören: Social Scoring durch Behörden (Bewertung von Bürgern auf Basis ihres sozialen Verhaltens), unterschwellige Manipulation (KI-Systeme, die das Verhalten einer Person ohne deren Bewusstsein beeinflussen und zu Schäden führen), Ausnutzung von Schwachstellen bestimmter Personengruppen (Alter, Behinderung, soziale Lage), Echtzeit-Gesichtserkennung im öffentlichen Raum durch Strafverfolgungsbehörden (mit engen Ausnahmen für schwere Straftaten), Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sowie biometrische Kategorisierung nach sensiblen Merkmalen (Rasse, politische Meinung, Religion, sexuelle Orientierung). Bußgeld: bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes.
• Hohes Risiko — Strenge Auflagen (Titel III, Art. 6–49): KI-Systeme, die in sensiblen Bereichen eingesetzt werden, unterliegen umfangreichen Anforderungen. Die Liste der Hochrisiko-Bereiche umfasst: Biometrie (Fernidentifizierung, Emotionserkennung außerhalb der Verbote), kritische Infrastruktur (Steuerung von Wasser, Gas, Strom, Verkehr), Bildung (Zugang zu Bildungseinrichtungen, Bewertung von Prüfungen), Beschäftigung (Bewerberauswahl, Leistungsbewertung, Kündigungsentscheidungen), Zugang zu wesentlichen Dienstleistungen (Kreditwürdigkeit, Versicherungen, Sozialleistungen), Strafverfolgung (Risikobewertung, Lügendetektoren, Beweisbewertung), Migration und Grenzkontrolle (Risikobewertung, Dokumentenprüfung) und Rechtspflege (Unterstützung bei richterlichen Entscheidungen). Pflichten für Hochrisiko-KI: Risikomanagementsystem, Daten-Governance, technische Dokumentation, Logging und Aufzeichnungen, Transparenzpflichten, menschliche Aufsicht (Human-in-the-Loop), Genauigkeit, Robustheit und Cybersicherheit sowie eine Konformitätsbewertung vor dem Inverkehrbringen. Bußgeld: bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes.
• Begrenztes Risiko — Transparenzpflichten (Titel IV, Art. 50): KI-Systeme mit begrenztem Risiko unterliegen Transparenzanforderungen: Nutzer müssen informiert werden, dass sie mit einer KI interagieren. Dies betrifft insbesondere: Chatbots (Nutzer müssen wissen, dass sie mit einer KI kommunizieren), Deepfakes (künstlich generierte oder manipulierte Bilder, Audio oder Video müssen als solche gekennzeichnet werden), KI-generierte Texte, die zu Informationszwecken veröffentlicht werden (müssen als maschinell generiert gekennzeichnet werden, es sei denn, sie wurden menschlich überprüft). General Purpose AI (GPAI)-Modelle wie GPT-4, Claude, Gemini oder Llama unterliegen eigenen Transparenzpflichten: Anbieter müssen technische Dokumentation erstellen, eine Zusammenfassung der Trainingsdaten bereitstellen und das EU-Urheberrecht einhalten. GPAI-Modelle mit systemischem Risiko (Trainingsaufwand ≥ 10²⁵ FLOPs) unterliegen zusätzlichen Pflichten: Modellbewertungen, Red-Teaming, Cybersicherheitsmaßnahmen und Meldepflichten bei schwerwiegenden Vorfällen. Bußgeld bei Verstößen: bis zu 7,5 Mio. EUR oder 1,5 % des weltweiten Jahresumsatzes.
• Minimales Risiko — Keine Anforderungen: Die große Mehrheit der KI-Anwendungen fällt in diese Kategorie und unterliegt keinen regulatorischen Anforderungen. Beispiele: Spam-Filter, KI-basierte Produktempfehlungen, Wettervorhersagemodelle, KI-gestützte Übersetzung, Bildoptimierung und Computerspiele. Die EU ermutigt Anbieter in dieser Kategorie jedoch, freiwillige Verhaltenskodizes (Codes of Conduct) zu befolgen, um Vertrauen und Qualität zu fördern.

Zeitplan & Fristen

Der AI Act tritt stufenweise in Kraft, um Unternehmen Zeit für die Anpassung zu geben. Die gestaffelte Anwendung folgt einer logischen Reihenfolge: Zuerst werden die gefährlichsten KI-Praktiken verboten (Februar 2025), dann die GPAI-Regeln und Governance-Strukturen etabliert (August 2025), anschließend die vollständigen Hochrisiko-Anforderungen wirksam (August 2026) und schließlich die produktspezifischen Regelungen (August 2027). Die wichtigsten Meilensteine im Überblick:

• 2. Februar 2025 — Verbotene KI-Praktiken: Seit diesem Datum gelten die Verbote aus Artikel 5. KI-Systeme, die Social Scoring, unterschwellige Manipulation, Echtzeit-Gesichtserkennung (außerhalb der engen Ausnahmen) oder biometrische Kategorisierung nach sensiblen Merkmalen einsetzen, sind untersagt. Unternehmen, die solche Systeme betreiben, mussten sie bis zu diesem Datum außer Betrieb nehmen. Gleichzeitig traten die Bestimmungen zur KI-Kompetenz (Art. 4) in Kraft: Alle Anbieter und Betreiber müssen sicherstellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt.
• 2. August 2025 — GPAI-Regeln und Governance: Ab diesem Datum gelten die Vorschriften für General Purpose AI-Modelle: Anbieter von GPAI-Modellen (OpenAI, Anthropic, Google, Meta, Mistral u. a.) müssen technische Dokumentation und Trainingsdaten-Zusammenfassungen bereitstellen. GPAI-Modelle mit systemischem Risiko unterliegen zusätzlichen Evaluierungs- und Sicherheitspflichten. Gleichzeitig müssen die EU-Mitgliedstaaten ihre nationalen Aufsichtsbehörden benannt und das EU AI Office seine Arbeit aufgenommen haben.
• 2. August 2026 — Vollanwendung Hochrisiko-KI: Dies ist der zentrale Stichtag: Alle Vorschriften für Hochrisiko-KI-Systeme gelten vollständig. Anbieter müssen die Konformitätsbewertung abgeschlossen haben, die technische Dokumentation vorhalten, Risikomanagementsysteme implementiert haben und die CE-Kennzeichnung tragen. Betreiber müssen sicherstellen, dass ihre Hochrisiko-KI-Systeme die Anforderungen erfüllen. Außerdem gelten ab diesem Datum alle Transparenzpflichten (Art. 50) und die Sanktionsregelungen der Mitgliedstaaten.
• 2. August 2027 — KI in regulierten Produkten: Für KI-Systeme, die als Sicherheitskomponenten in regulierten Produkten eingesetzt werden (z. B. Medizingeräte, Maschinen, Aufzüge, Spielzeug, Fahrzeuge), gelten die Hochrisiko-Anforderungen erst ab diesem späteren Zeitpunkt. Diese Verzögerung berücksichtigt, dass diese Produkte bereits sektorspezifischen Konformitätsverfahren unterliegen, die angepasst werden müssen.

Wichtig für Bestandssysteme: KI-Systeme, die vor dem 2. August 2026 bereits in Betrieb waren, genießen keinen generellen Bestandsschutz. Hochrisiko-KI-Systeme, die nach dem Stichtag wesentlich geändert werden (z. B. neues Training, Erweiterung des Einsatzzwecks, Änderung des Algorithmus), müssen die neuen Anforderungen erfüllen. GPAI-Modelle, die bereits auf dem Markt sind, müssen bis spätestens 2. August 2027 die GPAI-Vorschriften erfüllen. Unternehmen sollten daher jetzt mit der Überprüfung ihrer Bestandssysteme beginnen, um rechtzeitig die notwendigen Anpassungen vornehmen zu können.

Handlungsempfehlungen für Unternehmen

Der AI Act betrifft nicht nur Tech-Unternehmen und KI-Startups. Jedes Unternehmen, das KI-Systeme einsetzt (als Betreiber/Deployer), fällt potenziell in den Anwendungsbereich — und das betrifft mittlerweile die Mehrheit der Unternehmen. Von der KI-gestützten Bewerbervorauswahl über Chatbots im Kundenservice bis zur prädiktiven Wartung in der Produktion: Die Bandbreite der betroffenen Anwendungen ist enorm.

• KI-Inventar erstellen: Der erste und wichtigste Schritt ist eine vollständige Bestandsaufnahme aller im Unternehmen eingesetzten KI-Systeme. Dazu gehören: intern entwickelte KI-Modelle, eingekaufte KI-Software und SaaS-Dienste mit KI-Funktionalität (z. B. Microsoft Copilot, Salesforce Einstein, HubSpot AI), KI-basierte Automatisierungen (RPA mit KI-Komponenten), KI-gestützte Analyse- und Entscheidungstools sowie eingebettete KI in bestehender Software (oft nicht sofort erkennbar). Praxis-Tipp: Viele Unternehmen unterschätzen die Anzahl ihrer KI-Systeme erheblich. Befragen Sie systematisch alle Abteilungen — Vertrieb, Marketing, HR, Finanzen, IT, Produktion — nach eingesetzten Tools mit KI-Funktionen. Erstellen Sie ein zentrales KI-Register mit Einsatzzweck, Anbieter, Risikoklasse und Verantwortlichem.
• Risikoklassifizierung durchführen: Ordnen Sie jedes identifizierte KI-System einer der vier Risikoklassen zu. Achten Sie besonders auf Hochrisiko-Anwendungen, die häufig übersehen werden: KI-gestützte Bewerbervorauswahl und CV-Screening (Beschäftigung = Hochrisiko), Kreditscoring und automatisierte Bonitätsprüfung (Zugang zu Dienstleistungen = Hochrisiko), biometrische Zugangskontrollen (Biometrie = Hochrisiko), KI-basierte Versicherungstarifierung (Zugang zu Dienstleistungen = Hochrisiko) und KI-gestützte Studienplatzvergabe (Bildung = Hochrisiko). Für Grenzfälle stellt das EU AI Office Leitlinien bereit, und die EU-Kommission wird bis 2026 eine Datenbank aller registrierten Hochrisiko-KI-Systeme veröffentlichen.
• Governance und Dokumentation implementieren: Für Hochrisiko-KI-Systeme müssen umfangreiche Governance-Strukturen aufgebaut werden: ein Risikomanagementsystem, das den gesamten Lebenszyklus des KI-Systems abdeckt (Entwicklung, Deployment, Monitoring, Außerbetriebnahme); Daten-Governance mit dokumentierten Verfahren für Trainings-, Validierungs- und Testdaten; technische Dokumentation, die Zweck, Funktionsweise, Leistungsgrenzen und bekannte Risiken beschreibt; automatische Protokollierung (Logging) der Systemaktivitäten für spätere Nachvollziehbarkeit; und eine Konformitätserklärung vor dem Einsatz. Für Betreiber (Deployer) bedeutet dies: Stellen Sie sicher, dass Ihr KI-Anbieter diese Dokumentation bereitstellt, und dokumentieren Sie den spezifischen Einsatzkontext in Ihrem Unternehmen.
• Mitarbeiterschulungen und KI-Kompetenz: Artikel 4 des AI Acts verlangt, dass Anbieter und Betreiber sicherstellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt. Diese Pflicht gilt bereits seit dem 2. Februar 2025. In der Praxis bedeutet das: Schulungen für Führungskräfte zu den Grundlagen des AI Acts, Risikoklassen und Haftung; Schulungen für Fachabteilungen, die KI-Systeme einsetzen, zu verantwortungsvoller Nutzung und Erkennung von Bias/Fehlern; Schulungen für IT und Datenschutz zu technischen Anforderungen, Logging und Monitoring; und Schulungen für Beschaffung/Einkauf zu KI-spezifischen Vertragsklauseln und Anbieteranforderungen. Empfehlung: Integrieren Sie KI-Kompetenz in bestehende Compliance-Schulungsprogramme und dokumentieren Sie die Durchführung — Aufsichtsbehörden werden Nachweise verlangen.
• Menschliche Aufsicht (Human Oversight): Für Hochrisiko-KI-Systeme verlangt der AI Act eine angemessene menschliche Aufsicht — das System darf nicht vollständig autonom handeln, wenn es Entscheidungen mit erheblichen Auswirkungen auf Personen trifft. In der Praxis bedeutet dies die Implementierung eines Human-in-the-Loop- oder Human-on-the-Loop-Ansatzes: Ein Mensch überprüft KI-Entscheidungen entweder vor der Ausführung oder überwacht sie kontinuierlich mit der Möglichkeit zum Eingreifen. Die Aufsichtspersonen müssen geschult, befähigt und berechtigt sein, KI-Entscheidungen zu überstimmen oder das System abzuschalten.
• Daten-Governance für Hochrisiko-KI: Artikel 10 des AI Acts stellt besondere Anforderungen an die Datenqualität für Hochrisiko-KI-Systeme. Trainings-, Validierungs- und Testdaten müssen relevant, repräsentativ, fehlerfrei und vollständig sein. Besonderes Augenmerk liegt auf der Vermeidung von Bias: Wenn Trainingsdaten bestimmte Personengruppen systematisch benachteiligen (z. B. nach Geschlecht, ethnischer Herkunft oder Alter), führt das KI-System zu diskriminierenden Ergebnissen — und verstößt damit gegen den AI Act. Unternehmen müssen dokumentieren, welche Daten verwendet wurden, wie sie erhoben und bereinigt wurden und welche Maßnahmen zur Bias-Erkennung und -Minimierung ergriffen wurden.
• Regulatory Sandboxes nutzen: Der AI Act sieht die Einrichtung von KI-Reallaboren (Regulatory Sandboxes) in jedem EU-Mitgliedstaat vor. Diese ermöglichen es Unternehmen — insbesondere KMU und Startups —, innovative KI-Systeme unter Aufsicht der Behörde zu entwickeln und zu testen, bevor sie den vollen regulatorischen Anforderungen unterliegen. Die Sandboxes bieten eine kontrollierte Umgebung, in der Unternehmen Erfahrungen sammeln und Feedback von der Aufsichtsbehörde erhalten können. Empfehlung: Prüfen Sie, ob Ihre nationale Aufsichtsbehörde bereits ein Sandbox-Programm anbietet — frühe Teilnehmer profitieren von bevorzugtem Zugang und direktem Dialog mit den Regulierern.
• Wechselwirkungen mit DSGVO und anderen Regelungen: Der AI Act wirkt nicht isoliert. Hochrisiko-KI-Systeme, die personenbezogene Daten verarbeiten, müssen zusätzlich die DSGVO einhalten — insbesondere Artikel 22 DSGVO (automatisierte Einzelentscheidungen). Darüber hinaus bestehen Überschneidungen mit dem EU CRA (Cybersicherheit von KI-Produkten), der Produkthaftungsrichtlinie (Haftung für KI-Schäden) und sektorspezifischen Regelungen (Medizingeräte-Verordnung, Maschinenverordnung). Unternehmen sollten diese Regelungen ganzheitlich betrachten und nicht in isolierten Compliance-Silos arbeiten.

Praxis-Empfehlung: Beginnen Sie sofort mit dem KI-Inventar und der Risikoklassifizierung — diese Schritte erfordern keine technische Implementierung, sondern „nur“ organisatorischen Aufwand und Koordination zwischen Fachabteilungen. Planen Sie für die Governance-Implementierung bei Hochrisiko-KI-Systemen 6–12 Monate ein. Unternehmen, die noch kein KI-Inventar haben und Hochrisiko-KI einsetzen, stehen angesichts des Stichtags 2. August 2026 unter erheblichem Zeitdruck.

Für KMU und Startups: Der AI Act enthält mehrere Erleichterungen für kleine und mittlere Unternehmen: vereinfachte Konformitätsbewertungen, reduzierte Gebühren für die Registrierung in der EU-Datenbank, bevorzugten Zugang zu Regulatory Sandboxes und die Möglichkeit, Konformitätsbewertungen durch interne Prüfung (statt durch notifizierte Stellen) durchzuführen, sofern harmonisierte Standards eingehalten werden. Diese Erleichterungen sollen verhindern, dass der AI Act eine unverhältnismäßige Belastung für kleinere Unternehmen darstellt.

Der EU AI Act markiert einen Paradigmenwechsel in der Regulierung von Technologie. Erstmals werden nicht nur die Auswirkungen einer Technologie reguliert (wie bei der DSGVO), sondern die Technologie selbst — basierend auf ihrem Risikopotenzial. Unternehmen, die KI einsetzen oder entwickeln, sollten den AI Act nicht als Hindernis betrachten, sondern als Rahmenwerk für den verantwortungsvollen Einsatz von KI. Unternehmen, die frühzeitig robuste KI-Governance-Strukturen aufbauen, werden nicht nur compliant sein, sondern auch das Vertrauen von Kunden, Partnern und Behörden stärken — ein zunehmend entscheidender Wettbewerbsvorteil in der KI-Ära.