EU AI Act — Compliance für deutsche Unternehmen: Risikostufen, Pflichten und Bußgelder 2026

1. Was ist der EU AI Act?

Der EU AI Act (Verordnung (EU) 2024/1689) ist die weltweit erste rechtsverbindliche, umfassende Regulierung für Künstliche Intelligenz. Er wurde am 1. August 2024 im EU-Amtsblatt veröffentlicht und trat damit in Kraft. Der AI Act verfolgt einen risikobasierten Ansatz: Je höher das potenzielle Risiko eines KI-Systems für Grundrechte, Sicherheit oder gesellschaftliche Werte, desto strenger sind die Anforderungen.

Der Geltungsbereich ist weit gefasst: Er erfasst alle Anbieter (Entwickler und Hersteller von KI-Systemen), Betreiber (Unternehmen, die KI-Systeme einsetzen), Importeure und Händler sowie Bevollmächtigte von KI-Systemen — sofern die Systeme auf dem EU-Markt in Betrieb sind oder die Ausgaben in der EU genutzt werden.

Was ist ein „KI-System" im Sinne des AI Act?

Der AI Act definiert KI-Systeme als maschinengestützte Systeme, die für einen bestimmten Zweck konzipiert sind und aus Eingaben Ausgaben wie Vorhersagen, Empfehlungen, Entscheidungen oder Inhalte erzeugen, die reale oder virtuelle Umgebungen beeinflussen können. Diese weite Definition erfasst klassische ML-Modelle, neuronale Netze, Natural Language Processing und viele weitere Techniken — aber auch einfachere regelbasierte Systeme, wenn sie die Schwelle der KI-Definition erreichen.

Ausdrücklich ausgenommen sind KI-Systeme für militärische Zwecke, nationale Sicherheit sowie Forschung und Entwicklung vor dem Inverkehrbringen.

2. Zeitplan und Geltungsdaten

Der AI Act trat gestaffelt in Kraft — verschiedene Regelungsbereiche werden zu unterschiedlichen Zeitpunkten verbindlich. Dieser abgestufte Ansatz soll Unternehmen Vorbereitungszeit geben, schafft aber auch die Herausforderung, den Überblick zu behalten.

3. Die vier Risikostufen

Das Herzstück des AI Act ist sein risikobasierter Ansatz. KI-Systeme werden in vier Kategorien eingeteilt — von verboten bis minimal reguliert. Die Einordnung bestimmt vollständig, welche Compliance-Pflichten gelten.

4. Verbotene KI-Praktiken (seit Februar 2025)

Seit dem 2. Februar 2025 sind bestimmte KI-Anwendungen in der EU vollständig verboten. Diese Verbote gelten absolut — es gibt keine Ausnahmegenehmigungen durch Behörden. Unternehmen, die verbotene KI-Systeme entwickeln, importieren, verbreiten oder einsetzen, riskieren die höchsten Bußgelder des AI Act.

• Soziale Bewertungssysteme (Social Scoring) durch Behörden KI-Systeme, die von öffentlichen Behörden oder in deren Auftrag genutzt werden, um Personen auf Basis ihres Sozialverhaltens, persönlicher Merkmale oder Vorhersagen zu bewerten und benachteiligend zu behandeln
• Echtzeit-biometrische Fernidentifikation im öffentlichen Raum Echtzeit-Gesichtserkennung und biometrische Identifikation durch Strafverfolgungsbehörden in öffentlichen Räumen — mit engen Ausnahmen für terroristische Bedrohungen und die Suche nach Vermissten
• KI mit unterschwelligen Manipulationstechniken Systeme, die das Verhalten von Personen durch Techniken beeinflussen, die das Bewusstsein umgehen (z.B. unterschwellige Botschaften, manipulative Feedbackschleifen), und dadurch erheblichen Schaden verursachen können
• Ausnutzung von Schwachstellen schutzbedürftiger Personen KI-Systeme, die gezielt Schwachstellen von Personen aufgrund ihres Alters, einer Behinderung oder einer sozialen und wirtschaftlichen Lage ausnutzen, um ihr Verhalten erheblich zu beeinflussen
• Prädiktive Polizeiarbeit auf Basis reiner KI-Profile Systeme zur Vorhersage individueller Straftaten oder Kriminalitätsrisiken, die ausschließlich auf Profiling einer Person oder Bewertung ihrer Persönlichkeitsmerkmale basieren — ohne konkrete Fakten zu einem einzelnen Verfahren
• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen Systeme zur Erkennung oder Ableitung von Emotionen bei natürlichen Personen am Arbeitsplatz und in Bildungseinrichtungen — mit Ausnahme medizinisch indizierter oder sicherheitsrelevanter Verwendung
• Biometrische Kategorisierung nach geschützten Merkmalen Systeme, die Personen anhand biometrischer Daten nach Rasse, politischen Ansichten, Gewerkschaftszugehörigkeit, Religion, sexueller Orientierung oder anderen nach EU-Recht besonders geschützten Merkmalen kategorisieren

5. Hochrisiko-KI — Pflichten für Anbieter und Betreiber

Für Hochrisiko-KI-Systeme sieht der AI Act ein umfangreiches Pflichtenprogramm vor. Der Gesetzgeber unterscheidet zwischen Anbietern (Entwickler, die ein KI-System erstellen und auf den Markt bringen) und Betreibern (Organisationen, die ein Hochrisiko-KI-System in eigener Verantwortung einsetzen).

Pflichten für Anbieter (Entwickler von Hochrisiko-KI)

• Risikomanagementsystem einrichten und aufrechterhalten Laufender, iterativer Prozess zur Identifizierung und Bewertung bekannter und vernünftigerweise vorhersehbarer Risiken — dokumentiert, getestet und über den gesamten Lebenszyklus aktualisiert
• Qualitätsmanagementsystem nach Artikel 17 Schriftliches QMS das Strategien, Verfahren und Anweisungen für Konformität, Datenverwaltung, Testen, Transparenz, Ressourcen und Nachmarktkontrolle umfasst
• Technische Dokumentation erstellen (vor Markteinführung) Vollständige technische Dokumentation gemäß Anhang IV des AI Act: Systembeschreibung, Entwicklungsprozess, Leistungskennzahlen, Validierungsdaten, Cybersicherheitsmaßnahmen
• Automatische Protokollierung (Logging) des Betriebs Hochrisiko-KI-Systeme müssen automatisch Ereignisse protokollieren (Logs), die für die Überwachung auf nationale Behörden und die Nachverfolgung von Vorfällen relevant sind — insbesondere Entscheidungen und Anomalien
• Transparenz gegenüber Betreibern (Bedienungsanleitungen) Klare, vollständige Gebrauchsanweisung, die Fähigkeiten, Einschränkungen, Genauigkeitsgrade, Risiken, Wartungsanforderungen und menschliche Aufsicht beschreibt
• Konformitätsbewertungsverfahren durchführen Für Anhang-III-Systeme in der Regel interne Selbstbewertung; für KI als Sicherheitskomponente in Produkten nach Anhang I ist eine Bewertung durch eine benannte Stelle (Notified Body) erforderlich
• CE-Kennzeichnung anbringen und EU-Konformitätserklärung ausstellen CE-Kennzeichen auf dem System oder der Dokumentation; schriftliche EU-Konformitätserklärung mit Systembeschreibung, angewandten Normen und Unterzeichnung durch bevollmächtigte Person
• Registrierung in der EU-KI-Datenbank vor Markteinführung Pflicht zur Eintragung des Hochrisiko-KI-Systems in die EU-weite Datenbank (ähnlich EUDAMED für Medizinprodukte) — öffentlich zugänglich und vor dem ersten Inverkehrbringen abzuschließen
• Nachmarktkontrolle (Post-Market Monitoring) Aktive Überwachung der Systemleistung nach Markteinführung; Sammlung und Auswertung von Betreiber-Feedback; Anpassung bei festgestellten Risiken oder Leistungsabweichungen
• Meldung schwerwiegender Vorfälle Unverzügliche Meldung schwerwiegender Vorfälle oder Fehlfunktionen, die zu Verletzungen, Todesfällen, erheblichen Sachschäden oder Verstößen gegen Grundrechte führen, an die nationale Marktaufsichtsbehörde

Pflichten für Betreiber (Unternehmen, die Hochrisiko-KI einsetzen)

Auch wenn Betreiber das KI-System nicht selbst entwickeln, tragen sie eigene AI-Act-Pflichten. Die wichtigsten:

• Menschliche Aufsicht sicherstellen — geeignete Maßnahmen ergreifen, damit qualifizierte Personen die KI-Ausgaben überwachen, verstehen und ggf. überschreiben können
• Eingabedaten kontrollieren — soweit Betreiber die Eingabedaten steuern, müssen diese zweckdienlich und repräsentativ sein
• Betriebsprotokolle aufbewahren — Logs des Hochrisiko-KI-Systems für mindestens 6 Monate aufbewahren (nationale Behörden können längere Fristen vorschreiben)
• Folgenabschätzung für Grundrechte (öffentlicher Sektor) — Betreiber aus dem öffentlichen Sektor sowie private Betreiber in bestimmten sensiblen Bereichen müssen vor Einsatz eine Grundrechte-Folgenabschätzung durchführen und bei der zuständigen Behörde registrieren
• Mitarbeiter informieren und schulen — Personen, die mit dem Hochrisiko-KI-System arbeiten oder von dessen Entscheidungen betroffen sind, müssen angemessen informiert werden

6. Konformitätsbewertung und CE-Kennzeichnung

Bevor ein Hochrisiko-KI-System auf den EU-Markt gebracht wird, muss ein Konformitätsbewertungsverfahren durchgeführt werden. Das Ergebnis ist die Grundlage für die CE-Kennzeichnung und die EU-Konformitätserklärung.

Interne Konformitätsbewertung (Selbstbewertung)

Für die meisten Hochrisiko-KI-Systeme nach Anhang III des AI Act ist eine interne Konformitätsbewertung (Modul A) zulässig. Der Anbieter bewertet selbst, ob alle Anforderungen des AI Act erfüllt sind, und erstellt die technische Dokumentation. Trotz Selbstbewertung ist die Dokumentation vollständig und prüffähig zu gestalten — Behörden können jederzeit Einsicht verlangen.

Bewertung durch benannte Stelle (Notified Body)

Wenn das Hochrisiko-KI-System als Sicherheitskomponente eines Produkts nach Anhang I (Maschinenrichtlinie, Medizinprodukte, Spielzeug, Aufzüge, Fahrzeuge usw.) eingesetzt wird, ist die Einbeziehung einer benannten Stelle (Notified Body) zwingend — sofern das Produkt bereits bisher eine Drittparteibewertung erforderte. Dies gilt z.B. für KI in Medizinprodukten der Klasse IIb oder implantierbare Produkte.

EU-Datenbankregistrierung

Alle Hochrisiko-KI-Systeme müssen vor dem Inverkehrbringen in der EU-KI-Datenbank registriert werden. Die Datenbank wird von der EU-Kommission (EASA / EU AI Office) betrieben und ist für bestimmte Kategorien öffentlich zugänglich. Die Registrierung enthält grundlegende Informationen zum System, seinem Anwendungszweck und dem Anbieter.

7. Bußgelder und Durchsetzung

Der AI Act sieht ein dreistufiges Bußgeldsystem vor — die Höhe richtet sich nach der Schwere des Verstoßes. Zusätzlich haben die Mitgliedstaaten Spielraum bei der konkreten Ausgestaltung nationaler Sanktionssysteme, wobei die EU-Mindestrahmen einzuhalten sind.

Durchsetzung in Deutschland

Deutschland ist verpflichtet, eine oder mehrere nationale Marktaufsichtsbehörden für den AI Act zu benennen. Diskutiert werden das Bundesnetzwerk für Verbraucherschutz (BMUV), das Bundesamt für Sicherheit in der Informationstechnik (BSI) sowie sektoriell zuständige Behörden (BaFin für Finanz-KI, BfArM für Medizin-KI). Die zuständige Behörde kann neben Bußgeldern auch:

• Sofortige Rücknahme des KI-Systems vom Markt anordnen
• Vertriebsstopp für das EU-Gebiet verhängen
• Öffentliche Warnung vor dem System aussprechen
• Produktrückrufe veranlassen

8. Nächste Schritte: KI-System mit aiact.saaslab.pl einordnen

Das Compliance-Tool auf aiact.saaslab.pl hilft deutschen Unternehmen, ihre KI-Systeme schnell und strukturiert einzuordnen und die konkreten Compliance-Pflichten zu identifizieren — ohne aufwendige Erstberatung.