KI-Governance und EU AI Act: Was Unternehmen jetzt organisieren sollten

Der EU AI Act ist kein einheitlicher Pflichtenkatalog für jedes Unternehmen und jedes KI-Werkzeug. Entscheidend sind das konkrete System, sein vorgesehener Verwendungszweck und die Rolle der Organisation. Wer ein System lediglich unter eigener Verantwortung nutzt, ist regelmäßig Betreiber; wer ein System entwickelt oder unter eigenem Namen anbietet, kann Anbieter sein. Diese Unterscheidung beeinflusst den Umfang der Pflichten erheblich.

Die Verordnung ist seit 2024 in Kraft und wird stufenweise angewendet. Nach einer Änderung im Juli 2026 wurden insbesondere die Fristen für Hochrisiko-Systeme angepasst. Dieser Beitrag ordnet den Stand vom 26. September 2026 organisatorisch ein. Er ersetzt keine rechtliche Prüfung des einzelnen Einsatzfalls.

Was bereits gilt – und was später folgt

Die EU-Kommission fasst den aktuellen Anwendungszeitplan zusammen:

• Seit dem 2. Februar 2025 gelten die Verbote bestimmter KI-Praktiken und Vorgaben zur KI-Kompetenz.
• Seit dem 2. August 2025 gelten Governance-Regeln und Pflichten für General-Purpose-AI-Modelle (GPAI).
• Seit dem 2. August 2026 gelten weitere Teile der Verordnung, darunter bestimmte Transparenzpflichten; Kommission und nationale Behörden haben ihre Aufsichts- und Durchsetzungsaufgaben aufgenommen.
• Die Hochrisiko-Regeln für die in Anhang III genannten Anwendungsfälle gelten ab dem 2. Dezember 2027.
• Für Hochrisiko-KI als Bestandteil bestimmter regulierter Produkte gelten die Regeln ab dem 2. August 2028.

Die letzten beiden Termine beruhen auf dem 2026 in Kraft getretenen AI Omnibus. Die EU-Kommission erläutert die geänderten Fristen und Vereinfachungen. Ältere Übersichten, die für Hochrisiko-Regeln noch 2026 oder 2027 ohne weitere Differenzierung nennen, sind daher kein verlässlicher Planungsstand mehr.

Für Unternehmen ist trotzdem nicht nur die nächste Frist relevant. Bereits geltende Verbote, Transparenzvorgaben oder Anforderungen an KI-Kompetenz können auch Anwendungen betreffen, die nicht als hochriskant eingestuft werden.

Zuerst Rolle und Verwendungszweck klären

Der AI Act unterscheidet unter anderem Anbieter und Betreiber. Ein Anbieter entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen oder eigener Marke in Verkehr beziehungsweise nimmt es unter eigenem Namen in Betrieb. Ein Betreiber verwendet ein KI-System unter eigener Verantwortung, soweit es nicht um eine persönliche, nicht berufliche Tätigkeit geht. Die vollständigen Begriffe stehen in Artikel 3 des AI Act.

Eine Organisation kann je nach Konstellation mehr als eine Rolle haben. Wer ein eingekauftes System wesentlich verändert, dessen vorgesehenen Zweck ändert oder es unter eigenem Namen anbietet, sollte deshalb prüfen lassen, ob daraus Anbieterpflichten entstehen. Das bloße Etikett „Nutzer“ oder „Kunde“ genügt für die Einordnung nicht.

Für ein belastbares Inventar sollten Sie mindestens dokumentieren:

• verantwortlicher Fachbereich und technischer Eigentümer,
• Anbieter, Produkt und eingesetzte Variante,
• vorgesehener Zweck und tatsächliche Nutzung,
• betroffene Personen und verwendete Datenarten,
• Schnittstellen zu anderen Systemen,
• interne Freigabe, Kontrollen und Ansprechpartner bei Vorfällen.

Dieses Inventar schafft noch keine Compliance. Es liefert aber die Grundlage, um Anwendungen einheitlich zu bewerten und Änderungen nachvollziehen zu können.

Hochrisiko ist eine rechtliche Einordnung

Nicht jede folgenreiche oder technisch komplexe Anwendung ist automatisch ein Hochrisiko-System im Sinne des AI Act. Nach Artikel 6 kommen zwei Hauptwege infrage: KI als Sicherheitskomponente oder Produkt nach den in Anhang I genannten Vorschriften sowie bestimmte Verwendungsfälle aus Anhang III. Bei Anhang-III-Systemen sind außerdem die gesetzlichen Ausnahmen und der konkrete Einfluss auf Entscheidungen zu prüfen.

Anhang III nennt unter anderem bestimmte Anwendungen in Beschäftigung und Personalmanagement, Bildung, kritischer Infrastruktur, Kreditwürdigkeitsprüfung, Strafverfolgung, Migration und Justiz. Eine pauschale Aussage wie „KI im Personalwesen ist immer hochriskant“ wäre dennoch zu weit. Maßgeblich sind Zweck, Funktion und mögliche Ausnahmen des konkreten Systems.

Die Einordnung sollte deshalb nicht allein anhand des Produktnamens erfolgen. Beschreiben Sie den tatsächlichen Prozess: Welche Entscheidung wird vorbereitet oder getroffen? Wie stark beeinflusst die Ausgabe das Ergebnis? Gibt es eine wirksame menschliche Prüfung? Erst darauf lässt sich die rechtliche Klassifizierung aufbauen.

Pflichten hängen von der Rolle ab

Die umfangreichen Anforderungen an Hochrisiko-Systeme richten sich zu einem großen Teil an Anbieter. Dazu gehören beispielsweise Qualitätsmanagement, technische Dokumentation, Konformitätsbewertung und Registrierung. Die Anbieterpflichten sind in Artikel 16 zusammengeführt.

Betreiber von Hochrisiko-Systemen haben einen anderen Pflichtenkreis. Artikel 26 nennt unter anderem die Nutzung nach Gebrauchsanweisung, qualifizierte menschliche Aufsicht, Überwachung des Betriebs und – soweit die Protokolle unter eigener Kontrolle stehen – deren Aufbewahrung. Je nach Anwendungsfall kommen Informations-, Registrierungs- oder Folgenabschätzungspflichten hinzu.

Daraus folgt für die Governance: Verantwortlichkeiten dürfen nicht pauschal aus einer Vorlage übernommen werden. Einkauf, IT, Fachbereich, Datenschutz, Informationssicherheit, Personalvertretung und Rechtsfunktion sind abhängig vom Einsatzfall einzubeziehen. Die Geschäftsleitung sollte festlegen, wer eine Nutzung genehmigen, beschränken oder stoppen kann.

KI-Kompetenz praktisch organisieren

Die Vorgaben zur KI-Kompetenz gelten bereits. Artikel 4 knüpft den erforderlichen Kenntnisstand an Vorwissen, Erfahrung, Ausbildung, Nutzungskontext und betroffene Personen. Ein einziges allgemeines Training für alle Beschäftigten wird unterschiedlichen Risiken deshalb oft nicht gerecht.

Ein abgestuftes Konzept kann beispielsweise unterscheiden zwischen:

• Grundlagen für alle Personen, die freigegebene KI-Werkzeuge nutzen,
• anwendungsbezogener Schulung für Fachbereiche mit sensiblen Daten oder folgenreichen Entscheidungen,
• vertiefter Qualifikation für Freigabe, Betrieb, Kontrolle und Vorfallbearbeitung.

Dokumentieren Sie Zielgruppe, Lernziele, Zeitpunkt und Aktualisierung der Maßnahmen. Ob das im konkreten Fall genügt, lässt sich nur anhand der tatsächlichen Aufgaben und Risiken beurteilen.

Ein pragmatischer Governance-Prozess

1. Anwendungen erfassen

Beginnen Sie mit freigegebenen, pilotierten und informell genutzten Werkzeugen. Prüfen Sie auch KI-Funktionen, die Bestandteil vorhandener Standardsoftware sind. Das Inventar sollte einen Verantwortlichen und einen regelmäßigen Aktualisierungsanlass haben.

2. Einsatzfall und Rolle bewerten

Halten Sie Zweck, Nutzerkreis, Daten, betroffene Personen und Entscheidungseinfluss fest. Ordnen Sie anschließend die Rolle des Unternehmens und mögliche Risikokategorien ein. Bei Rechts-, Datenschutz- oder Mitbestimmungsfragen sind die zuständigen Stellen einzubeziehen.

3. Kontrollen festlegen

Kontrollen können Freigaberegeln, Zugriffsrechte, Datenbeschränkungen, menschliche Prüfung, Qualitätskontrollen, Protokollierung und Vorfallwege umfassen. Welche Maßnahmen angemessen sind, hängt vom jeweiligen Einsatz ab. Ein generisches Kontrollset ohne Bezug zum Prozess ist schwer wirksam zu prüfen.

4. Änderungen überwachen

Produktupdates, neue Datenquellen, geänderte Zwecke oder neue Nutzergruppen können eine erneute Bewertung auslösen. Legen Sie fest, wer solche Änderungen erkennt und wann eine Freigabe erneuert werden muss.

Für den alltäglichen Einsatz kann ein KI-Nutzungsleitfaden erlaubte Werkzeuge, Datenregeln und Eskalationswege verständlich bündeln. Er ist ein Baustein der Governance, ersetzt aber weder die Systembewertung noch erforderliche technische und rechtliche Prüfungen.

Was eine belastbare Dokumentation leisten sollte

Dokumentation ist kein Selbstzweck. Sie sollte eine konkrete Entscheidung oder Kontrolle nachvollziehbar machen. Dazu gehören beispielsweise die festgelegte Nutzung, die verantwortlichen Rollen, erkannte Risiken, beschlossene Maßnahmen, offene Punkte und der nächste Prüftermin.

Vermeiden Sie zwei Extreme: Eine bloße Werkzeugliste enthält zu wenig Kontext für eine Bewertung. Ein umfangreiches Regelwerk ohne Verantwortliche und operative Prüfschritte bleibt dagegen schwer anwendbar. Sinnvoll ist eine gestufte Dokumentation, deren Tiefe mit Risiko, Rolle und gesetzlichen Anforderungen wächst.

Nächster Schritt

Wenn Ihre Organisation mehrere KI-Anwendungen einsetzt oder deren Einsatz ausweiten möchte, beginnen Sie mit einem belastbaren Inventar und klaren Entscheidungswegen. Die Leistung KI-Governance, AI Act & Compliance unterstützt bei organisatorischer Einordnung, Rollenmodell und Governance-Prozess. Eine verbindliche rechtliche Bewertung des einzelnen Systems muss durch die dafür zuständige Stelle erfolgen.

Primärquellen und Stand

• Verordnung (EU) 2024/1689 im Amtsblatt der EU
• EU-Kommission: aktueller Anwendungszeitplan und Risikokategorien
• EU-Kommission: Inkrafttreten des AI Omnibus und geänderte Hochrisiko-Fristen
• EU-Kommission: Aufsicht und Durchsetzung des AI Act
• AI Act Service Desk: Rollen, Hochrisiko-Einordnung und Pflichten

Stand der Rechts- und Fristenangaben: 26. September 2026. Die verlinkten Erläuterungen des AI Act Service Desk weisen teilweise noch auf redaktionell ausstehende Anpassungen an den AI Omnibus hin; für die geänderten Fristen wurden daher die aktuellen Seiten der EU-Kommission herangezogen.

Fazit

KI-Governance beginnt nicht mit einem umfangreichen Handbuch, sondern mit drei belastbaren Antworten: Welche Systeme werden wofür eingesetzt, welche Rolle hat die Organisation und wer entscheidet über Freigabe und Kontrolle? Darauf lassen sich Pflichten, Qualifizierung und Nachweise risikobezogen aufbauen.

Die gestaffelte Anwendung des AI Act ist kein Grund, jede Hochrisiko-Pflicht vorzeitig als bereits geltend darzustellen. Sie ist aber ein Anlass, Inventar, Zuständigkeiten und Prüfprozesse rechtzeitig vorzubereiten. So kann Ihre Organisation neue Anforderungen nachvollziehbar in bestehende Abläufe integrieren.