EU AI Act: Von der Verordnung zum technischen Nachweis

Was ist der EU AI Act?

Der EU AI Act, offiziell die Verordnung (EU) 2024/1689, ist der risikobasierte Rechtsrahmen der Europäischen Union für künstliche Intelligenz. Er trat am 1. August 2024 in Kraft und reguliert nicht „KI" als ein einziges Ding, sondern verfolgt einen risikobasierten Ansatz, bei dem unterschiedliche Pflichten abhängig vom KI-System, seinem Verwendungszweck, der Rolle der Organisation und den jeweils anwendbaren Bestimmungen gelten.

Es ist ein horizontaler Rechtsrahmen der EU, der risikobasierte Vorschriften für künstliche Intelligenz festlegt. Der Act gilt in mehreren Konstellationen, darunter für bestimmte Anbieter und Betreiber in der EU sowie für bestimmte Anbieter aus Drittstaaten, deren KI-System-Output in der Union genutzt wird, vorbehaltlich der konkreten, in der Verordnung festgelegten Bedingungen, statt als pauschale Regel, die jede irgendwie mit KI verbundene Organisation erfasst. Die Pflichten werden über mehrere Jahre hinweg stufenweise eingeführt statt auf einen Schlag, und dieser Zeitplan wurde seit der ursprünglichen Verabschiedung bereits angepasst. Das ist mit ein Grund, warum diese Seite ein Prüfdatum trägt, statt eine einzelne Zusammenfassung als dauerhaft gültig zu behandeln.

Für wen gilt der EU AI Act?

Die Anwendbarkeit ist nicht einheitlich, und einer der häufigeren Fehler, die ich sehe, ist die Annahme, der Act gelte entweder vollständig oder überhaupt nicht für die eigene Organisation. In der Praxis hängt es vom Zusammenspiel mehrerer Faktoren ab.

Rolle in der KI-Wertschöpfungskette. Ein Anbieter (Provider) entwickelt ein KI-System oder -Modell und bringt es in Verkehr oder nimmt es in Betrieb. Ein Betreiber (Deployer) nutzt ein KI-System in eigener Verantwortung. Beide Rollen tragen unterschiedliche Pflichten, und eine Organisation kann für unterschiedliche Systeme beide Rollen zugleich einnehmen.

Verwendungszweck und Risikoeinstufung. Dasselbe zugrunde liegende Modell kann je nach Einsatzzweck in unterschiedlichen Risikostufen landen. Ein allgemeines Sprachmodell, das intern zum Textentwurf genutzt wird, trägt einen ganz anderen Pflichtenkatalog als dasselbe Modell, eingebettet in ein Tool zur Lebenslauf-Vorauswahl.

Ob es sich um ein KI-Modell mit allgemeinem Verwendungszweck handelt. GPAI-Modelle tragen einen eigenen Pflichtenstrang, der weiter unten separat behandelt wird und zusätzlich zu der sonst geltenden Rolle und Risikoeinstufung greift.

Nichts davon ersetzt eine Einzelfallprüfung eines konkreten Systems durch qualifizierte Rechtsberatung. Es ist der Rahmen, den ein Engineering- oder Architektur-Team braucht, bevor diese Prüfung überhaupt sinnvoll abgegrenzt werden kann.

Welche Risikokategorien kennt der EU AI Act?

Der Act verfolgt einen risikobasierten Ansatz. Vier breite Kategorien werden üblicherweise zur praktischen Orientierung verwendet; sie sind ein erläuterndes Rahmenwerk, kein universelles rechtliches Selbsteinstufungsinstrument, und die folgenden Abgrenzungen ersetzen keine einzelfallbezogene rechtliche Prüfung.

Was ist ein Hochrisiko-KI-System?

Der Hochrisiko-Status entsteht auf zwei Wegen. Anhang III listet konkrete Einsatzbereiche auf: kritische Infrastrukturen, Bildung und Berufsbildung, Beschäftigung und Personalmanagement, Zugang zu grundlegenden privaten und öffentlichen Dienstleistungen (einschließlich Bonitätsbewertung und Versicherung), Strafverfolgung, Migration und Grenzkontrolle, Rechtspflege und demokratische Prozesse sowie bestimmte Anwendungen zur biometrischen Identifizierung und Kategorisierung. Anhang I erfasst KI, die als Sicherheitsbauteil in Produkten eingesetzt wird, die bereits nach bestehendem EU-Produktsicherheitsrecht reguliert sind, etwa Maschinen, Medizinprodukte und Spielzeug. Das Fallen in einen dieser Bereiche allein ist noch kein vollständiger Einstufungstest: Ob ein konkretes System tatsächlich hochriskant ist, hängt von den für diesen Bereich jeweils geltenden rechtlichen Kriterien ab, nicht allein vom Sektor, und nicht jedes im Gesundheitswesen, in der Beschäftigung, im Bildungsbereich, im Finanzwesen oder im öffentlichen Dienst eingesetzte KI-System ist automatisch hochriskant.

Anbieter von Hochrisiko-Systemen tragen den umfangreichsten Pflichtenkatalog: ein über den gesamten Systemlebenszyklus gepflegtes Risikomanagementsystem, Daten-Governance für Trainings-, Validierungs- und Testdaten, technische Dokumentation, automatische Protokollierungsfunktionen, klare Anweisungen, die menschliche Aufsicht ermöglichen, sowie nachgewiesene Genauigkeit, Robustheit und Cybersicherheit. Betreiber von Hochrisiko-Systemen tragen einen engeren Pflichtenkatalog, der sich auf die bestimmungsgemäße Nutzung des Systems, die tatsächliche Sicherstellung menschlicher Aufsicht und die Überwachung des Betriebs konzentriert, ergänzt um zusätzliche Pflichten wie eine Grundrechte-Folgenabschätzung für bestimmte Betreiber (einschließlich öffentlicher Stellen und spezifischer Finanzdienstleistungs-Anwendungen).

Welche Pflichten gelten für GPAI?

Der Act definiert ein KI-Modell mit allgemeinem Verwendungszweck (General-Purpose AI, GPAI) in Artikel 3; der genaue Umfang dieser rechtlichen Definition sollte anhand des Verordnungstexts selbst oder offizieller Leitlinien der Kommission geprüft werden, nicht anhand dieser Zusammenfassung. In der Praxis, und rein als erläuternde Beschreibung statt als Wiedergabe dieses Gesetzestexts, umfasst dies in der Regel Modelle mit breiten Fähigkeiten, die eine Vielzahl unterschiedlicher Aufgaben ausführen und in nachgelagerte KI-Systeme integriert werden können. GPAI-Modelle tragen einen eigenen, für ihre Anbieter geltenden Pflichtenkatalog nach dem Act, und je nachdem, wie ein GPAI-Modell in ein nachgelagertes KI-System eingebunden oder dort genutzt wird, können zusätzliche Anforderungen gelten, sodass die Pflichten eines GPAI-Anbieters und die Pflichten eines nachgelagerten Systems nicht automatisch deckungsgleich sind.

Von jedem GPAI-Anbieter wird erwartet, technische Dokumentation zu pflegen, bestimmte Informationen an Anbieter weiterzugeben, die das Modell nachgelagert integrieren, und eine hinreichend detaillierte Zusammenfassung der für das Training verwendeten Inhalte zu veröffentlichen, um urheberrechtsbezogene Pflichten zu unterstützen.

Einem GPAI-Modell wird nach Artikel 51 vermutet, ein systemisches Risiko zu tragen, wenn die für sein Training eingesetzte kumulative Rechenleistung einen festgelegten Schwellenwert (ausgedrückt in Gleitkommaoperationen) überschreitet; die Kommission kann ein Modell zudem auch aus anderen Gründen als mit systemischem Risiko behaftet einstufen. Anbieter solcher Modelle unterliegen zusätzlichen Pflichten: Modellevaluierung einschließlich adversarialer Tests, Bewertung und Minderung systemischer Risiken, Verfolgung und Meldung schwerwiegender Vorfälle sowie Sicherstellung eines angemessenen Cybersicherheitsniveaus. Das Europäische Büro für Künstliche Intelligenz (AI Office), angesiedelt innerhalb der Europäischen Kommission, ist die primäre Aufsichtsbehörde für GPAI-Modelle und führt einen freiwilligen Code of Practice für GPAI-Anbieter, der Transparenz, Urheberrecht sowie Safety und Security abdeckt. Es handelt sich um ein freiwilliges Instrument, das Anbietern helfen soll, Compliance nachzuweisen, nicht aber selbst um eine Feststellung, dass ein bestimmter Anbieter compliant ist.

Zeitplan: Was wann gilt

Die Pflichten des Acts werden stufenweise eingeführt, und dieser Zeitplan wurde seit der Verabschiedung bereits einmal angepasst. Zum letzten Prüfdatum dieser Seite gilt folgender Anwendungsplan:

2026 änderte der „Digital Omnibus on AI" der Europäischen Kommission (in Kraft seit dem 27. Juli 2026) den Act, um den Hochrisiko-Zeitplan zu verlängern und bestimmte administrative Pflichten zu vereinfachen, während die risikobasierte Kernstruktur und die Schutzmechanismen des Acts unverändert bleiben. Behandeln Sie jeden AI-Act-Zeitplan, auch diesen hier, als etwas, das weiteren Leitlinien und möglichen Änderungen unterliegt, und prüfen Sie aktuelle Termine anhand der eigenen Seite der Europäischen Kommission, bevor Sie ein bestimmtes Datum für ein bestimmtes System als endgültig behandeln.

Was passiert, wenn eine Organisation nicht konform ist?

Artikel 99 legt drei Sanktionsstufen fest, anwendbar seit dem 2. August 2025: bis zu €35 Millionen oder 7% des weltweiten Jahresgesamtumsatzes bei Verstößen gegen verbotene Praktiken; bis zu €15 Millionen oder 3% bei Nichteinhaltung der Hochrisiko-Pflichten oder der Transparenzpflichten nach Artikel 50; und bis zu €7,5 Millionen oder 1% für die Bereitstellung falscher, unvollständiger oder irreführender Informationen an Behörden. Für große Organisationen gilt der jeweils höhere der beiden Beträge; dies sind gesetzliche Höchstbeträge, keine automatischen oder festen Summen, und die tatsächliche Geldbuße im Einzelfall hängt von den konkreten Umständen und der Einschätzung der zuständigen Behörde ab. Artikel 99 selbst sieht für KMU, einschließlich Start-ups, eine günstigere Behandlung vor, bei der stattdessen der jeweils niedrigere der beiden Beträge gilt, und der Digital Omnibus 2026 hat eine vergleichbare Behandlung für kleine Midcap-Unternehmen bei den beiden niedrigeren Sanktionsstufen eingeführt.

Warum der EU AI Act für Technologieverantwortliche wichtig ist

Lassen wir die Bußgeldsummen für einen Moment beiseite, denn sie sind nicht der eigentlich wichtigste Grund, dieser Regulierung Aufmerksamkeit zu schenken.

Viele der Anforderungen des Acts überschneiden sich mit Engineering- und Governance-Praktiken, die produktionsreife KI bereits einsetzt: eine dokumentierte Risikobewertung, nachvollziehbare Datenherkunft, Protokollierung, die ausreicht, um zu rekonstruieren, was ein System getan hat und warum, menschliche Aufsicht, die tatsächlich ausübbar ist und nicht nur auf dem Papier steht, sowie Monitoring, Sicherheit und Transparenz. Organisationen, die ihre KI-Systeme bereits so betreiben, haben einen Vorsprung, der nichts mit rechtlicher Strategie zu tun hat. Organisationen, die das nicht tun, stellen oft im denkbar ungünstigsten Moment fest, dass „wir dokumentieren das später" nicht trägt, sobald ein System Entscheidungen trifft, die reale Menschen betreffen.

Das bedeutet nicht, dass jedes Unternehmen oder jedes KI-System denselben Pflichten unterliegt, und es lohnt sich, beide Extreme zu vermeiden: den Act als irrelevant abzutun, weil „wir sind nicht in einer regulierten Branche", und ihn als existenzielle Bedrohung zu behandeln, die unabhängig vom tatsächlichen KI-Einsatz ein Krisen-Compliance-Programm erfordert. Die richtige Reaktion ist proportional zur tatsächlichen Rolle und Risikoeinstufung des Systems, weshalb die Anwendbarkeitsfrage oben zu Recht an erster Stelle steht.

KI-Compliance ist mehr als eine Checkliste

Hier gehen die meisten Compliance-Gespräche schief. Ein Policy-Dokument, das niemand auf eine tatsächlich laufende Kontrolle zurückführen kann, ist kein Nachweis für irgendetwas, und eine Kontrolle, die nie getestet wurde, unterscheidet sich kaum von gar keiner Kontrolle.

Diese Kette ist, nicht zufällig, auch das Architekturgespräch, das ich unabhängig von jeder Regulierung mit Engineering-Teams führe: Produktionsreife KI braucht messbares Verhalten, Sicherheitskontrollen, Observability und Governance-Nachweise, nicht nur ein Policy-Dokument auf einem gemeinsamen Laufwerk. Ich maße mir nicht an, genau zu wissen, was eine bestimmte Aufsichtsbehörde im Einzelfall als ausreichenden Nachweis akzeptiert, denn diese Entscheidung liegt bei der Behörde und den konkreten Fakten. Was ich sagen kann: Eine Organisation ohne messbares Verhalten und ohne Nachweiskette hat nichts anzubieten, wenn dieses Gespräch kommt.

Was ist AI Assurance? Technische Evaluierung für KI-Systeme

AI Assurance ist die technische Praxis, zu evaluieren, was ein KI-System tatsächlich tut, im Unterschied dazu, was eine Policy vorschreibt, dass es tun soll. Es ist die Engineering-Ebene, die den Nachweis liefert, auf den die oben beschriebene Governance-Kette angewiesen ist, und es lohnt sich, klarzustellen: Technische Evaluierung ist selbst keine rechtliche Compliance-Feststellung. Sie ist eine Grundlage dafür.

Mechanistische Interpretierbarkeit als Nachweisquelle

Mechanistische Interpretierbarkeit ist ein aktives Forschungsfeld, das versucht zu verstehen, was im Inneren eines Modells geschieht, nicht nur, was es ausgibt. Dabei kommen Techniken wie Aktivierungsanalyse, Feature-Attribution, Activation Patching, Sparse Autoencoder und kausale Interventionen zum Einsatz, um Kandidaten-Schaltkreise zu identifizieren, die ein bestimmtes Verhalten offenbar antreiben.

Es lohnt sich, klar zu benennen, was dies derzeit leistet und was nicht. Diese Methoden können messbare interne Repräsentationen sichtbar machen und Belege für eine Hypothese darüber liefern, was die Ausgabe eines Modells beeinflusst. Sie liefern derzeit kein exaktes Wissen über die „Gedanken" eines Modells, keine vollständige Rekonstruktion seiner Argumentation, keine garantierte kausale Erklärung und keine Identifikation eines einzelnen, definitiv für ein Ergebnis verantwortlichen Neurons. Die eigene Terminologie des Feldes spiegelt das wider: Befunde werden als Attribution, als mögliche kausale Einflussnahme und als Beleg für eine Hypothese beschrieben, nicht als Beweis.

Richtig eingeordnet ist Interpretierbarkeit eine von mehreren möglichen technischen Nachweisquellen, sinnvoll ergänzend zu Verhaltensevaluierung und Monitoring, aber kein Ersatz dafür und für sich genommen kein Compliance-Mechanismus.

Aufbau einer EU AI Act Compliance- und Nachweis-Engine

Die Grundidee: KI-Evaluierung, technische Nachweise und Risikobewertung mit dem regulatorischen Control-Mapping zu verbinden, sodass das tatsächliche, getestete Systemverhalten einer Organisation, nicht nur ein Policy-Dokument, gegen die Anforderungen des EU AI Act abgebildet wird.

Auf hoher Ebene sieht die Pipeline so aus:

Geplante Funktionen umfassen Modellregistrierung, automatisiertes Verhaltens- und Security-Testing, interpretierbarkeitsbasierte Risikoindikatoren, Nachweiserfassung, die Zuordnung getesteten Verhaltens zu konkreten EU-AI-Act-Kontrollen, einen Audit-Trail, Reporting sowie konfigurierbare Governance-Frameworks, damit dieselbe Nachweis-Pipeline im Lauf der Zeit auf mehr als einen regulatorischen oder internen Standard abgebildet werden kann.

Eines wird diese Engine bewusst nicht tun: rechtliche Compliance stellvertretend für eine Organisation feststellen. Ihr Output ist eine technische Bewertung und eine Nachweis-Zuordnung, das Rohmaterial, das eine Compliance- oder Rechtsfunktion braucht, kein Ersatz für deren Urteil.

Was das für KI-Verantwortliche bedeutet

Für wen das relevant ist

Dieser Inhalt richtet sich in erster Linie an Organisationen und Rollen, die KI-Systeme mit EU-Bezug aktiv entwickeln, betreiben oder governen:

Nicht jede Organisation in diesen Kategorien ist rechtlich an jede Bestimmung des Acts gebunden. Welche Pflichten tatsächlich gelten, hängt von den oben beschriebenen konkreten Faktoren ab.

FAQ

Weiterführende Inhalte

Dies steht in direktem Zusammenhang mit AI Security, Agentic AI Security und Production AI, sowie mit den Ökonomie- und Architekturfragen aus The Economics of Autonomous AI und The Agent Card Problem.

Quellen & weiterführende Informationen

Verordnung (EU) 2024/1689 (Gesetz über Künstliche Intelligenz), offizieller Text, EUR-Lex.
Regulatorischer Rahmen des AI Act, Europäische Kommission, Digital Strategy.
Europäisches Büro für Künstliche Intelligenz, Europäische Kommission.
AI Omnibus tritt in Kraft, Europäische Kommission, Juli 2026.

Dieser Inhalt bietet technische und edukative Orientierung und stellt keine Rechtsberatung, keine regulatorische Zertifizierung und keine Compliance-Garantie dar. Er begründet nicht, dass der Autor ein EU-zertifizierter Prüfer, ein Rechtsanwalt oder eine offizielle EU-Stelle oder ein offizieller EU-Partner ist. Die Anwendbarkeit des EU AI Act auf eine konkrete Organisation oder ein konkretes System sollte mit qualifizierter Rechtsberatung geprüft werden.