AI Act Readiness: Warum Unternehmen mehr brauchen als eine KI-Richtlinie

Das Wichtigste in Kürze: Eine KI-Richtlinie ersetzt keine Transparenz über den tatsächlichen KI-Einsatz. Der EU AI Act, autonome Agenten und wachsende Prüfungsanforderungen führen zur selben Frage: Lässt sich nachweisen, dass die Kontrollen funktionieren? Der Einstieg ist eine strukturierte Bestandsaufnahme.

Viele Unternehmen haben inzwischen eine KI-Strategie. Weniger Unternehmen können jedoch zuverlässig beantworten, welche KI-Systeme tatsächlich im Einsatz sind, welche Entscheidungen sie treffen dürfen und wie ihre Einhaltung interner und regulatorischer Anforderungen überprüft wird.

Mit zunehmender Verbreitung generativer KI und autonomer KI-Agenten wird diese Lücke zu einer Managementfrage. Es geht nicht mehr allein darum, ob ein Unternehmen KI einsetzen darf. Es geht darum, ob es deren Einsatz kontrollieren, nachweisen und gegenüber Kunden, Einkauf, IT-Sicherheit und Aufsicht nachvollziehbar verantworten kann.

Der EU AI Act gibt dafür einen regulatorischen Rahmen vor. Gleichzeitig entwickelt sich ein Markt für unabhängige KI-Prüfungen und spezialisierte Sicherheitslösungen. Beides deutet auf eine Veränderung hin: Vertrauen in KI muss zunehmend durch belastbare Evidenz gestützt werden.

1. Das erste Problem ist die fehlende Transparenz über den eigenen KI-Einsatz

Eine KI-Richtlinie beantwortet noch nicht die Frage, wie KI im Unternehmen tatsächlich verwendet wird.

Mitarbeitende nutzen externe KI-Anwendungen, Fachbereiche integrieren KI-Funktionen in bestehende Software, und IT-Teams erproben spezialisierte Lösungen. Mit KI-Agenten kommt eine weitere Dimension hinzu: Systeme können Informationen abrufen, Werkzeuge aufrufen und mehrstufige Aufgaben weitgehend selbstständig ausführen.

Dadurch entstehen drei typische Transparenzlücken:

• Bestand: Welche KI-Systeme, integrierten Funktionen und eigenständig eingerichteten Anwendungen werden tatsächlich genutzt?
• Verantwortung: Wer ist für den jeweiligen Einsatz zuständig, und welche Rolle übernimmt das Unternehmen nach dem EU AI Act?
• Kontrolle: Welche Daten, Systeme und Prozesse darf eine Anwendung erreichen, und wie werden ihre Aktivitäten überwacht?

Ohne diese Informationen bleiben Risikobewertungen unvollständig. Unternehmen können weder verlässlich priorisieren noch nachweisen, dass ihre Governance-Maßnahmen den tatsächlichen Einsatz abdecken.

Der erste Schritt ist deshalb keine zusätzliche Richtlinie, sondern eine strukturierte Bestandsaufnahme.

2. Der EU AI Act macht aus Governance eine konkrete Managementaufgabe

Die regulatorischen Anforderungen hängen unter anderem von der Rolle des Unternehmens, der Art des KI-Systems und dem konkreten Einsatz ab.

Seit dem 2. August 2026 gelten die Transparenzpflichten nach Artikel 50 des EU AI Act. Dazu gehören je nach Anwendungsfall Informationspflichten gegenüber betroffenen Personen sowie Anforderungen an bestimmte KI-generierte Inhalte. Für generative KI-Systeme, die bereits vor diesem Datum auf dem Markt waren, gilt für die maschinenlesbare Kennzeichnung nach Artikel 50 Absatz 2 eine Übergangsfrist bis zum 2. Dezember 2026.

Auch die zeitliche Einordnung von Hochrisiko-KI hat sich verändert. Die Verschiebung beruht auf dem Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026). Nach den geltenden Übergangsfristen gelten die entsprechenden Pflichten für Hochrisiko-KI in den Anwendungsbereichen des Anhangs III grundsätzlich ab dem 2. Dezember 2027. Für bestimmte Hochrisiko-KI-Systeme, die in regulierte Produkte nach Anhang I eingebettet sind, gilt der 2. August 2028.

Diese Fristen schaffen Planungszeit. Sie ersetzen jedoch nicht die Prüfung, welche Anforderungen für einen konkreten Anwendungsfall gelten.

Für das Management ergeben sich daraus fünf zentrale Fragen:

1. Welche KI-Systeme und Anwendungen sind im Einsatz?
2. Welche Rolle übernimmt das Unternehmen jeweils als Anbieter, Betreiber oder gegebenenfalls in mehreren Funktionen?
3. Welche Informations-, Transparenz- und Dokumentationspflichten greifen?
4. Wo werden Daten verarbeitet, und welche Datenschutz- und Sicherheitsanforderungen sind zu berücksichtigen?
5. Wer verantwortet Freigabe, Überwachung, Eskalation und vertragliche Verpflichtungen?

Nicht jede dieser Fragen entspricht einer eigenständigen gesetzlichen Pflicht. Zusammen bilden sie jedoch einen praktikablen Ausgangspunkt für eine belastbare Governance.

3. KI-Agenten verschärfen die Kontrollfrage

Bei klassischen Softwareanwendungen sind Funktionen und Berechtigungen häufig vergleichsweise klar abgegrenzt. KI-Agenten können dagegen mehrere Werkzeuge kombinieren, auf unterschiedliche Datenquellen zugreifen und Aufgaben über Systemgrenzen hinweg ausführen.

Damit verändert sich das Risikoprofil.

Ein Agent, der lediglich Informationen zusammenfasst, benötigt andere Berechtigungen als ein Agent, der Kundenkommunikation versendet, Datensätze verändert oder Transaktionen auslöst. Je größer sein Handlungsspielraum, desto wichtiger werden klare Grenzen, nachvollziehbare Aktivitäten und wirksame Eingriffsmöglichkeiten.

McKinsey hat in einer Analyse zu autonomen KI-Agenten vom Juni 2025 bereits auf die Bedeutung von Governance, definierten Aufgaben, Performance-Messung und Schutzmechanismen hingewiesen. Die Managementaufgabe besteht nicht nur darin, Agenten technisch funktionsfähig zu machen, sondern sie in ein kontrollierbares Betriebsmodell einzubetten.

Daraus lassen sich fünf praktische Anforderungen ableiten:

• Begrenzte Berechtigungen: Jeder Agent erhält nur die Zugriffsrechte, die für seine Aufgabe erforderlich sind.
• Verbindliche Guardrails: Kritische Aktionen werden durch technische Regeln begrenzt, nicht allein durch Anweisungen im Prompt.
• Nachvollziehbarkeit: Zugriffe, ausgeführte Aktionen und relevante Entscheidungen werden angemessen protokolliert.
• Menschliche Eingriffsmöglichkeiten: Für kritische Schritte gibt es definierte Freigaben, Eskalationen und Möglichkeiten zum Abbruch.
• Laufende Überwachung: Leistung, Fehlverhalten, Kosten und Änderungen der Systemkonfiguration werden kontrolliert.

Wichtig ist die Unterscheidung zwischen einer dokumentierten Schutzmaßnahme und einer nachweislich wirksamen Kontrolle. Eine Regel ist erst dann belastbar, wenn sich zeigen lässt, dass sie im vorgesehenen Einsatz funktioniert.

4. Vertrauen entwickelt sich zu einer eigenen Marktanforderung

Für Unternehmen reicht es zunehmend nicht aus, die eigene KI-Nutzung intern für vertretbar zu halten. Sie müssen ihre Aussagen auch gegenüber anderen Parteien begründen können.

Forrester beschreibt in seinem Beitrag Who Will Become The Trusted Assurer Of Your Enterprise AI? vom 23. September 2026 eine entstehende Landschaft unabhängiger KI-Prüfung und -Absicherung. Die zentrale Frage ist, welchen Prüfstellen, Verfahren und Nachweisen unterschiedliche Interessengruppen tatsächlich vertrauen können.

Für Enterprise-Kunden ist das unmittelbar relevant. Einkauf, IT-Sicherheit, Datenschutz und Fachbereiche benötigen nicht zwangsläufig dieselben Informationen. Sie wollen aber nachvollziehbare Antworten auf ihre jeweiligen Fragen.

Daraus folgt eine praktische Unterscheidung:

Diese Stufen sind keine formale Zertifizierungsskala. Sie verdeutlichen vielmehr, warum Richtlinien, implementierte Kontrollen und belastbare Nachweise nicht miteinander verwechselt werden sollten.

Auch im Vertrieb kann dieser Unterschied entscheidend sein. Je nach Branche und Kundensituation können nachvollziehbare Angaben zu Datenverarbeitung, Berechtigungen, Verantwortlichkeiten und Sicherheitsmaßnahmen Teil der Kaufentscheidung werden.

5. Der Markt für Agentensicherheit entwickelt sich entlang konkreter Kontrollpunkte

Die zunehmende Verbreitung von KI-Agenten schafft neue Anforderungen an bestehende Sicherheitsarchitekturen. Zugleich entstehen spezialisierte Anbieter, die einzelne Kontrollprobleme adressieren.

Crunchbase News beschreibt in einem Gastbeitrag von Itay Sagie, The Emerging M&A Map For AI Agent Security, vom 23. September 2026 eine mögliche Strukturierung dieses Marktes. Im Mittelpunkt stehen unter anderem Agentenidentitäten, Datenzugriffe, Berechtigungen, Schnittstellen und die Nachvollziehbarkeit von Aktivitäten.

Die Entwicklung ist auch für die Beschaffung relevant. Unternehmen sollten nicht allein nach einer möglichst umfassenden Kategorie wie „AI Security“ suchen. Entscheidend ist, welches konkrete Risiko eine Lösung adressiert und wie sie sich in die vorhandene Architektur integriert.

Vor einer Beschaffung sind deshalb vier Fragen sinnvoll:

1. Welchen konkreten Kontrollpunkt deckt die Lösung ab?
2. Welche bestehenden Sicherheits- und Governance-Funktionen sind bereits vorhanden?
3. Wie werden Ereignisse, Berechtigungen und Richtlinien technisch durchgesetzt und dokumentiert?
4. Wie fügt sich die Lösung in das bestehende Betriebsmodell ein, ohne neue unkontrollierte Schnittstellen zu schaffen?

Nicht jedes Unternehmen benötigt sofort ein zusätzliches Produkt. Häufig ist zunächst zu klären, welche Kontrollen bereits vorhanden sind, wo tatsächliche Lücken bestehen und welche davon geschäftskritisch sind.

Alle diese Fragen setzen eine Bestandsaufnahme voraus. Ohne sie lässt sich weder beurteilen, was fehlt, noch, was beschafft werden sollte.

6. Von der Bestandsaufnahme zu einem belastbaren Readiness-Modell

Eine wirksame AI-Act-Readiness sollte nicht mit einer möglichst umfangreichen Maßnahmenliste beginnen. Sie sollte die Ausgangslage erfassen, relevante Lücken bewerten und daraus eine priorisierte Entscheidung ableiten.

Ein pragmatisches Vorgehen umfasst vier Schritte.

Schritt 1: Bestand und Einsatzkontext erfassen

Erfassen Sie die eingesetzten KI-Systeme, ihre Funktionen, verantwortlichen Bereiche, Datenzugriffe und wesentlichen Abhängigkeiten. Berücksichtigen Sie auch integrierte KI-Funktionen und Anwendungen außerhalb formaler Beschaffungsprozesse.

Schritt 2: Rollen und Anforderungen einordnen

Prüfen Sie für relevante Anwendungsfälle, welche Rolle das Unternehmen übernimmt, welche Risikokategorie einschlägig ist und welche regulatorischen, vertraglichen und internen Anforderungen gelten.

Die Einordnung sollte sich auf den konkreten Verwendungszweck und die tatsächliche Systemkonfiguration stützen. Eine allgemeine Einstufung des Produkts allein genügt nicht immer.

Schritt 3: Kontrollen und Nachweise prüfen

Bewerten Sie, ob Verantwortlichkeiten, Berechtigungen, Transparenzmaßnahmen, Überwachung und Eskalationswege definiert und umgesetzt sind. Prüfen Sie außerdem, ob die Wirksamkeit kritischer Kontrollen nachvollziehbar belegt werden kann.

Schritt 4: Maßnahmen priorisieren und entscheiden

Ordnen Sie identifizierte Lücken nach regulatorischer Relevanz, möglichem Schaden, geschäftlicher Bedeutung und Umsetzungsaufwand. Legen Sie Verantwortliche, Fristen und Entscheidungspunkte fest.

Das Ergebnis sollte eine klare Managemententscheidung ermöglichen: Welche Maßnahmen sind sofort erforderlich? Welche müssen vor einer weiteren Skalierung umgesetzt werden? Welche Risiken sind noch offen, und wer darf sie verantworten?

Fazit: Readiness bedeutet, den eigenen KI-Einsatz erklären und kontrollieren zu können

Der EU AI Act, die wachsende Autonomie von KI-Agenten und die Entwicklung unabhängiger Prüfverfahren weisen auf dieselbe Managementaufgabe hin: Unternehmen müssen ihre KI-Nutzung transparent, kontrollierbar und nachvollziehbar organisieren.

Dafür braucht es mehr als eine Richtlinie und mehr als eine Sammlung technischer Sicherheitsprodukte. Es braucht ein klares Bild des tatsächlichen Einsatzes, eine belastbare Zuordnung von Rollen und Verantwortlichkeiten sowie Nachweise dafür, dass die relevanten Kontrollen funktionieren.

Für Unternehmen, die KI einsetzen oder deren Einsatz ausweiten wollen, ist die entscheidende Frage deshalb nicht allein, ob sie eine KI-Strategie besitzen.

Sie lautet: Können sie nachvollziehbar belegen, welche KI sie einsetzen, welche Risiken daraus entstehen und wie sie diese Risiken kontrollieren?

Genau dort beginnt AI-Act-Readiness.

Weiterführende Informationen

• EU AI Act: Verordnung und regulatorischer Rahmen
• Forrester: Who Will Become The Trusted Assurer Of Your Enterprise AI?
• Crunchbase News: The Emerging M&A Map For AI Agent Security
• McKinsey: When can AI make good decisions? The rise of AI corporate citizens

Nächster Schritt

Das Market Launch AI Act Readiness Framework führt von der Bestandsaufnahme in die Umsetzung. Sie erhalten eine dokumentierte Übersicht Ihrer KI-Systeme mit Rollen- und Risikoeinordnung, eine priorisierte Gap-Analyse, einen 30-60-90-Tage-Maßnahmenplan mit klaren Verantwortlichkeiten sowie vertriebsfertige Unterlagen für Einkaufs- und Security-Prüfungen im DACH-Markt.