KI-Governance & ISO/IEC 42001

Die meisten Unternehmen, die heute KI einsetzen, haben kein Governance-Problem. Sie wissen nur noch nicht, dass sie eines haben. Ein Team testet ChatGPT für Produkttexte. Ein anderes lässt Empfehlungen automatisiert ausspielen. Ein drittes füttert Marktdaten in ein Prognose-Tool. Jedes für sich funktioniert. Was fehlt, ist die Frage dahinter: Wer verantwortet, was die KI tut? Was passiert, wenn sie falsch liegt? Und wer prüft das, nicht einmal, sondern laufend?

KI-Governance klingt nach Konzern-Thema. Ist es nicht. Es ist die Frage, ob Du weißt, was Deine KI-Systeme tun, wer dafür zuständig ist und was passiert, wenn etwas schiefgeht. Das betrifft ein Unternehmen mit 30 Leuten genauso wie eines mit 3.000. Die Norm, die dafür eine Struktur liefert, heißt ISO/IEC 42001. Was sie konkret verlangt, wie das in Unternehmen aussieht und wo die Grenzen liegen, darum geht es hier.

Was KI-Governance überhaupt bedeutet

Der Begriff, der in der ISO 42001 im Zentrum steht, ist AIMS, Artificial Intelligence Management System. Klingt sperrig, meint aber etwas Überschaubares: einen systematischen Rahmen aus Richtlinien, Zielen, Prozessen und Kontrollen rund um den KI-Einsatz in Deinem Unternehmen. Kein Software-Produkt. Kein Zertifizierungs-Projekt. Ein Arbeitsrahmen.

KI-Governance ist dabei nicht dasselbe wie Compliance. Compliance fragt: Halten wir uns an die Regeln? Governance fragt vorher: Haben wir überhaupt geklärt, wer entscheidet, wer kontrolliert und wie wir mit Risiken umgehen? Beides muss zusammenspielen. Aber wer nur Compliance-Haken setzt, ohne vorher die Governance-Frage gestellt zu haben, verwaltet eine Struktur, die er nicht gebaut hat.

Der Ausgangspunkt ist nicht das Tool. Er ist die Frage, was Du mit KI vorhast, wer davon betroffen ist und welche Risiken daraus entstehen. Erst wenn das steht, wird aus Tool-Einsatz ein steuerbarer Prozess.

Was ISO/IEC 42001 strukturell vorgibt

Die Norm folgt einer Logik, die Du vielleicht aus ISO 9001 oder ISO 27001 kennst: Plan-Do-Check-Act. Kein KI-Sonderweg, sondern bewährte Management-Logik, angewendet auf ein neues Thema.

Fünf Bausteine bilden die Struktur:

Kontext und Anwendungsbereich. Du klärst, wer Du bist, was Du mit KI vorhast und wer davon betroffen ist. Das klingt trivial, ist aber der Punkt, an dem die meisten scheitern, weil sie beim Tool anfangen statt beim Geschäftskontext.

Führung und KI-Richtlinie. Die oberste Leitung bekennt sich zur Verantwortung. Eine KI-Richtlinie definiert, was erlaubt ist, was nicht und wo Freigaben nötig sind. Ohne dieses Dokument gibt es keine Verbindlichkeit.

Risikobeurteilung und Folgenabschätzung. Für jedes KI-System wird geprüft: Welche Risiken bestehen, regulatorisch, organisatorisch, für betroffene Personen? Welche Auswirkungen können eintreten? Das ist kein einmaliger Akt, sondern ein laufender Prozess.

Betrieb und Steuerung. KI-Systeme werden geplant, überwacht und bei wesentlichen Änderungen neu bewertet. Das betrifft nicht nur Eigenentwicklungen, sondern gerade auch eingekaufte Systeme und APIs.

Leistungsbewertung und Verbesserung. Regelmäßige interne Reviews prüfen, ob das System funktioniert. Abweichungen werden dokumentiert, Korrekturmaßnahmen eingeleitet. Das schließt den PDCA-Kreis.

ISO 42001 gibt die Struktur, der EU AI Act gibt den Rechtsrahmen. Beides muss zusammenspielen, keines ersetzt das andere. ISO-42001-Konformität bedeutet heute nicht automatisch EU-AI-Act-Konformität. Die formale Verknüpfung beider Rahmen steht noch aus.

Wie das in Unternehmen aussieht

Ich entwickle KI-Steuerungssysteme für Unternehmen, von AIMS-Strukturen nach ISO 42001 bis zu konkreten Handlungsempfehlungen für Mitarbeitende. Ziel ist ein klarer Rahmen, in dem KI sinnvoll genutzt werden kann, ohne dass Unternehmen jeden Fehler erst selbst machen müssen.

Wie das in der Praxis aussieht, zeigt eine vollständige Handlungsanweisung, die ich für ein mittelständisches E-Commerce-Unternehmen mit rund 150 Mitarbeitenden entwickelt habe: sieben KI-Use-Cases im Marketing, nach ISO 42001 strukturiert und nach KI-Verordnung klassifiziert. Aus dieser Arbeit kommt das folgende Beispiel.

Das Unternehmen betreibt ein KI-System, das auf einem großen Sprachmodell basiert und die Marketing-Daten liest (Kampagnen-Performance aus GA4, Suchdaten aus der Search Console) und daraus Vorschläge generiert. Kampagnen-Ideen, Content-Briefings, A/B-Test-Varianten. Kein System, das selbst schaltet. Ein System, das vorschlägt und auf Freigabe wartet.

Was harmlos klingt, stellt die Governance-Fragen trotzdem. Das System hat nur Lesezugriff auf Datenquellen und läuft in einer Sandbox-Umgebung, getrennt vom produktiven Marketing-Stack. Es darf keine Kampagnen live schalten, hat keinen Budget-Zugriff, aktiviert keine Kundensegmente automatisch und exportiert keine personenbezogenen Daten frei. Ein Pre-Publishing-Approval-Gate ist technisch erzwungen. Kein Output geht raus ohne menschliche Freigabe.

Hier liegt ein Punkt, den viele übersehen. Wer ein KI-System nicht nur einkauft und einsetzt, sondern selbst entwickelt und intern produktiv nimmt, ist nach der KI-Verordnung nicht mehr nur Betreiber, sondern zusätzlich Anbieter (Artikel 3 KI-VO), auch ohne Vertrieb an Dritte. Das ändert die Pflichten-Lage. Welche Anbieter-Pflichten konkret greifen, hängt von der Risikoklasse des Systems ab und gehört in die Bewertung.

Die Schutzmaßnahmen, die ich in der Handlungsanweisung für diesen Use Case entwickelt habe, adressieren genau das: eine Tool-Whitelist statt Blacklist, read-only auf alle Datenquellen, das Pre-Publishing-Approval-Gate, harte Stop-Bedingungen (Token-Limit, Iterations-Limit, Kostenlimit), ein revisionssicherer Trail aller Outputs und wöchentliche Stichproben-Reviews.

Für Entscheider ist dabei nicht nur die juristische Risikoklasse relevant. Entscheidend ist auch, welches organisatorische Risiko im Alltag entsteht.

Regulatorisch ordnet die Handlungsanweisung den Marketing-Agenten als KI-System mit begrenztem Risiko ein, mit Transparenzpflichten nach Artikel 50 KI-VO ab August 2026. Die strengen Anbieter-Pflichten der Verordnung greifen nicht in vollem Umfang, weil das System nicht als Hochrisiko-System klassifiziert ist. Die zweistufige Risikobewertung der Handlungsanweisung, die jede regulatorische Klassifikation um eine Bewertung des organisatorischen Restrisikos ergänzt, kommt aber zu einem hohen Restrisiko: Reichweite der Outputs, Geschwindigkeit der Iteration und automatisierte Datenzugriffe rechtfertigen Kontrollen, die über das gesetzliche Mindestmaß hinausgehen.

Der Freigabeprozess folgt fünf Phasen: Antrag durch den Use-Case-Verantwortlichen, Schwellenwertprüfung für eine Datenschutz-Folgenabschätzung, Folgenabschätzung nach ISO 42001, differenzierte Freigabe-Entscheidung je nach Risikoklasse, Betriebsfreigabe mit Monitoring-Auflagen. Das ist kein Bürokratie-Moloch. Das sind fünf Schritte, die ein 150-Personen-Unternehmen mit bestehenden Rollen abbilden kann.

Was Governance im Alltag bedeutet

Die Struktur steht auf dem Papier, aber was tut jemand am Montag um neun? Vier Dinge, konkret.

Rollen klären. Wer beantragt einen neuen KI-Einsatz? Wer bewertet das Risiko? Wer gibt frei? In der Handlungsanweisung habe ich eine RACI-Matrix mit acht Rollen über zehn Aktivitäten gebaut, vom Use-Case-Antrag bis zur Außerbetriebnahme. Der Punkt ist nicht die Matrix selbst. Der Punkt ist, dass jede Entscheidung einen Namen hat, bevor das System live geht.

Dokumente führen. Eine KI-Richtlinie. Ein KI-Register, das alle Systeme erfasst. Folgenabschätzungen pro Use Case. Schulungsnachweise. Prüfberichte. Das klingt nach viel, ist in der Praxis ein überschaubarer Satz von Dokumenten, den man einmal aufsetzt und dann pflegt.

Regelmäßig prüfen. Interne Reviews sind keine Option, sondern Pflicht im Managementsystem. Sie fragen: Funktioniert das System noch so, wie wir es geplant haben? Haben sich Risiken verändert? Gibt es Abweichungen, die Korrekturmaßnahmen brauchen?

Kompetenz sicherstellen. Seit dem 2. Februar 2025 verlangt der EU AI Act in Artikel 4, dass Betreiber ihr Personal mit KI-Kompetenz ausstatten. Das ist kein Vorschlag. Das ist geltendes Recht. Schulung ist Governance-Pflicht, nicht Nice-to-have.

Was ich aus eigener KI-Praxis gelernt habe

Ich nutze KI selbst in meiner Arbeit, nicht als Spielerei, sondern als gesteuertes Arbeitssystem mit klaren Rollen, Grenzen und Freigaben. Spezialisierte KI-Agents arbeiten als virtuelles Agentur-Team zusammen, übernehmen definierte Aufgaben (schreiben, prüfen, strukturieren, vergleichen) und entscheiden nicht selbst, was gilt.

Rollen sind definiert: Jeder Agent hat eine klare Aufgabe und klare Grenzen. Gates sind verbindlich: An vier definierten Freigabe-Punkten wird geprüft, bevor der nächste Schritt passiert. Kein Agent agiert ohne Freigabe. Reviews sind regelmäßig: Prompts, Workflows und Ergebnisse werden systematisch überprüft und angepasst. Entscheidungshoheit bleibt beim Menschen: Architektur-Entscheidungen werden dokumentiert, nicht in Chat-Sessions getroffen. Eine Aussage in einem Chat ist keine Entscheidung. Erst die dokumentierte, geprüfte Festlegung ist eine.

Das ist kein zertifiziertes Managementsystem. Aber es ist die tägliche Erfahrung, dass KI-Systeme ohne klare Aufgaben, Grenzen und Prüfpunkte nicht steuerbar sind. Die Systematik aus KI-Management, Risikobetrachtung und Prüfbarkeit, die ich im TÜV-Kontext strukturiert durchgearbeitet und auf konkrete Unternehmensfälle angewendet habe, prägt, wie ich KI-Governance bewerte, nicht als Theorie, sondern als Arbeitsweise.

Wo KI-Governance aufhört

Drei Grenzen, die ich nicht überspielen will.

Ein Managementsystem reduziert Risiko, eliminiert es nicht. KI-Governance macht Risiken steuerbar, durch bewusste Entscheidungen: Risiko vermeiden, mindern, übertragen oder bewusst beibehalten. Null-Risiko ist kein realistisches Ziel und keines, das die Norm verlangt.

Anbieter bleiben teilweise Black Box. Verantwortlichkeiten zwischen Deinem Unternehmen und Deinen KI-Lieferanten müssen aufgeteilt werden. Aber Trainingsdaten, Modell-Architektur und interne Sicherheitsmaßnahmen der Anbieter sind nur begrenzt einsehbar. Die Lösung ist nicht blindes Vertrauen, sondern vertragliche Absicherung: Auskunftspflichten zu Trainingsdaten, Modell-Updates und Zertifizierungen.

Datenschutz und Urheberrecht laufen parallel. ISO 42001 ist kein Datenschutz-Managementsystem. DSGVO, Urheberrecht und Wettbewerbsrecht bleiben eigenständige Anforderungen. Governance ordnet den KI-Einsatz. Sie ersetzt keine Rechtsberatung.

---

Wenn Du wissen willst, wie KI-Governance in Deinem Unternehmen konkret aussehen kann, welche Schritte zuerst kommen, welche Rollen nötig sind und wo Abkürzungen später teuer werden: Genau darum geht es in der KI-Beratung. Nicht als Methodik-Vortrag, sondern als Arbeit an Deinem konkreten Stand.