Mit dem Einsatz von ChatGPT, Microsoft Copilot und zunehmend agentischen KI-Systemen verändert sich die Frage, wie Arbeit organisiert wird. KI ist nicht mehr nur ein Werkzeug, das Menschen punktuell unterstützt. Sie erzeugt Inhalte, bereitet Entscheidungen vor, durchsucht Wissensbestände und kann erste Prozessschritte selbstständig auslösen. Dadurch entstehen neue Anforderungen an Verantwortung, Qualität und Zusammenarbeit.

Im Arbeitsalltag zeigen sich diese Veränderungen sehr konkret: Dürfen Mitarbeitende beliebige KI-Tools nutzen? Wer trägt die Verantwortung für KI-generierte Ergebnisse? Wann müssen Ergebnisse überprüft werden? Welche Rolle spielen Führungskräfte? Wie gehen Unternehmen mit Shadow AI um? Und warum entsteht trotz KI zusätzlicher Prüf-, Abstimmungs- und Verwaltungsaufwand?

Diese Fragen zeigen: AI Governance ist mehr als Compliance. Sie wird zur organisatorischen Grundbedingung dafür, dass KI in der Arbeitsorganisation überhaupt wirksam werden kann.

In dieser Beitragsserie betrachten wir AI Governance deshalb aus drei Perspektiven: Regelkonformität, Ergebnisqualität und organisatorische Leistungsfähigkeit. Jede dieser Ebenen adressiert unterschiedliche Risiken und erfordert unterschiedliche Gestaltungsentscheidungen. Dieser Beitrag führt in das Modell ein und zeigt, warum Governance im KI-Zeitalter weit über Richtlinien und Verbote hinausgeht.

Warum AI Governance jetzt zum Thema wird

Bisher waren digitale Werkzeuge vor allem Werkzeuge. Menschen trafen Entscheidungen, erstellten Inhalte und verantworteten Arbeitsergebnisse. Mit generativer und agentischer KI verändert sich dieses Verhältnis grundlegend.

KI erzeugt Texte, Präsentationen und Analysen. Sie unterstützt bei Entscheidungsvorbereitung, durchsucht Wissensbestände und übernimmt erste Prozessschritte eigenständig. Mit agentischen Ansätzen kommen Systeme hinzu, die Aufgaben koordinieren, Informationen beschaffen oder Aktionen auslösen können. Dadurch entstehen neue Anforderungen an Verantwortung, Qualität und Zusammenarbeit.

Viele Unternehmen reagieren zunächst mit Richtlinien oder AI-Literacy-Schulungen. Beides ist wichtig. Beides allein reicht aber nicht aus. AI Governance entsteht dort, wo Unternehmen festlegen, wie KI in die tägliche Zusammenarbeit integriert wird, welche Standards gelten und wer dabei welche Verantwortung trägt.

Was ist AI Governance?

Der Begriff AI Governance bezeichnet den Steuerungsrahmen, den Unternehmen für den Einsatz von KI-Systemen entwickeln: Regeln, Verantwortlichkeiten, Prozesse und Standards, die sicherstellen sollen, dass KI verantwortungsvoll, nachvollziehbar und wirksam eingesetzt wird.

Die EU KI-Verordnung (AI Act), die 2024 in Kraft getreten ist und bis 2027 vollständig gilt, bildet dabei den gesetzlichen Rahmen. Sie beschreibt jedoch nur einen Teil der Governance-Aufgabe.

Im Unternehmenskontext geht AI Governance darüber hinaus. Sie umfasst alle Steuerungsentscheidungen, die bestimmen, wie KI-Systeme in Arbeitsprozesse integriert werden, welche Qualitätsanforderungen für KI-gestützte Ergebnisse gelten und wie Unternehmen ihre Leistungsfähigkeit im Zusammenspiel mit KI langfristig erhalten und weiterentwickeln.

Eine Abgrenzung ist hilfreich: AI Governance ist kein Synonym für AI Compliance. Compliance beschreibt die Einhaltung gesetzlicher Mindestanforderungen. Governance beschreibt, wie Unternehmen den KI-Einsatz aktiv gestalten.

Das Ziel ist eine Arbeitsorganisation, die mit zunehmendem KI-Einsatz nicht nur regelkonform bleibt, sondern auch qualitativ hochwertig und langfristig leistungsfähig arbeitet.

AI Governance besteht aus drei Ebenen

AI Governance wird häufig auf die Einhaltung gesetzlicher Vorgaben reduziert. Für die Praxis greift das zu kurz.

Unternehmen müssen beim Einsatz von KI drei unterschiedliche Herausforderungen gleichzeitig adressieren:

• die Einhaltung regulatorischer Anforderungen,
• die Qualität von KI-gestützten Arbeitsergebnissen,
• die langfristige Arbeits- und Entwicklungsfähigkeit der Organisation.

Diese drei Ziele bilden die Grundlage unseres Governance-Modells:

Compliance Governance

Sichert Regelkonformität und adressiert rechtliche, regulatorische und datenschutzbezogene Risiken.

Quality Governance

Sichert die Qualität von KI-gestützten Arbeitsergebnissen und definiert Verantwortlichkeiten, Qualitätsstandards und Verifikationsmechanismen.

Capability Governance

Sichert die langfristige Arbeits- und Entwicklungsfähigkeit der Organisation im Zusammenspiel mit KI.

Jede Ebene beantwortet eine andere Frage:

Compliance Governance: Die notwendige Basis

Die erste Ebene bildet der regulatorische Rahmen.

Mit der EU KI-Verordnung müssen Unternehmen ihre KI-Systeme nach Risikoklassen einordnen. Systeme für Bewerbungsscreening, Leistungsbeurteilungen oder Mitarbeiter-Scoring fallen beispielsweise in die Kategorie hochriskanter KI und unterliegen besonderen Anforderungen hinsichtlich Transparenz, Dokumentation und menschlicher Aufsicht.

Für die meisten Workplace-Anwendungen gelten geringere Anforderungen. Dennoch bleiben Datenschutz, Informationssicherheit und die Einhaltung interner Richtlinien zentrale Voraussetzungen.

Diese Ebene definiert das notwendige Minimum.

Praktisch beginnt die Arbeit mit einer Bestandsaufnahme:

• Welche KI-Systeme werden genutzt?
• Welche Daten werden verarbeitet?
• Welche Prozesse werden unterstützt?
• Welche Risiken entstehen daraus?

Darauf aufbauend müssen Nutzungsszenarien bewertet, Verantwortlichkeiten definiert und Formen der KI-Nutzung als zulässig, eingeschränkt oder ausgeschlossen klassifiziert werden.

Aus diesen Entscheidungen entstehen Richtlinien, Betriebsvereinbarungen und Freigabeprozesse.

Die konkrete Ausgestaltung dieser Ebene betrachten wir im zweiten Teil der Serie.

Quality Governance: Wie verlässliche Ergebnisse entstehen

Selbst wenn die regulatorischen Fragen geklärt sind, bleibt eine weitere Herausforderung bestehen:

Wie stellen wir sicher, dass KI-gestützte Arbeit belastbare Ergebnisse hervorbringt?

Genau hier setzt die zweite Ebene an.

KI erzeugt Inhalte, Analysen, Zusammenfassungen und Empfehlungen in hoher Geschwindigkeit. Das Problem besteht dabei häufig nicht in offensichtlichen Fehlern. Schwieriger sind Ergebnisse, die professionell wirken, plausibel erscheinen und dennoch fachliche Schwächen enthalten.

Die Stanford-Forscher Niederhoffer, Robichaux und Hancock haben für dieses Phänomen den Begriff „Workslop“ geprägt: Inhalte, die professionell aussehen, aber fachlich nicht ausreichend geprüft wurden.

Workslop verweist auf eine grundlegende Governance-Frage:

Wer trägt Verantwortung für KI-generierte Ergebnisse? Welche Qualitätsstandards gelten? Welche Ergebnisse müssen überprüft werden? Und welche Kompetenzen benötigen Mitarbeitende, um KI-Ergebnisse kritisch bewerten zu können?

Quality Governance beschäftigt sich genau mit diesen Fragen. Sie verbindet Qualitätsmanagement, Verantwortlichkeiten, Transparenz, Verifikation und Befähigung zu einem gemeinsamen Rahmen für verlässliche KI-gestützte Arbeit.

Die konkrete Ausgestaltung dieser Ebene betrachten wir im dritten Teil der Serie.

Capability Governance: Arbeitsfähigkeit im KI-Zeitalter sichern

Die dritte Ebene wird in vielen aktuellen Diskussionen noch am wenigsten beachtet.

Dabei adressiert sie eine der langfristig wichtigsten Fragen:

Wie verändert KI die Fähigkeiten, auf denen Leistungsfähigkeit überhaupt beruht?

KI kann Produktivität steigern, Entscheidungsprozesse beschleunigen und den Zugang zu Wissen vereinfachen. Gleichzeitig verändert sie die Art und Weise, wie Menschen lernen, Probleme lösen, Wissen aufbauen und Entscheidungen treffen.

Damit entsteht eine neue Governance-Aufgabe.

Unternehmen müssen nicht nur sicherstellen, dass KI regelkonform eingesetzt wird und qualitativ hochwertige Ergebnisse erzeugt. Sie müssen auch verhindern, dass Fähigkeiten verloren gehen, auf denen diese Qualität langfristig beruht.

Aktuelle Studien weisen bereits auf Spannungsfelder hin:

• Cognitive Offloading
• Wissensverlust in isolierten KI-Chats
• zusätzliche Verwaltungsarbeit durch Botsitting
• fehlende Kontextarchitekturen
• unklare Mensch-KI-Arbeitsteilung

Ein konkreter Indikator zeigt die Dimension dieser Herausforderung. Der Work AI Index 2026 des Glean Work AI Institute kommt zu dem Ergebnis, dass Mitarbeitende 37 Prozent ihrer KI-Nutzungszeit für Kontextpflege, Prüfung von Ergebnissen und Nachbearbeitung aufwenden. Auf die eigentliche produktive Arbeit mit KI entfallen lediglich 36 Prozent.

Diese Zahlen verweisen nicht nur auf Effizienzprobleme. Sie zeigen, dass vielen Organisationen noch die Fähigkeiten, Strukturen und Arbeitsweisen fehlen, um KI systematisch in die tägliche Arbeit zu integrieren.

Capability Governance beschäftigt sich deshalb mit Fragen wie:

• Welche Fähigkeiten müssen erhalten bleiben?
• Welche neuen Fähigkeiten entstehen?
• Wie organisieren wir Wissen für KI-gestützte Arbeit?
• Wie gestalten wir die Zusammenarbeit zwischen Menschen und KI?

Die konkrete Ausgestaltung dieser Ebene betrachten wir im vierten Teil der Serie.

Exkurs: Was ist Agentic AI?

Agentische KI-Systeme gehen über klassische Assistenzfunktionen hinaus.

Sie koordinieren eigenständig Workflows, beschaffen Informationen, treffen Vorentscheidungen und lösen Aktionen in anderen Systemen aus, ohne dass für jeden Schritt eine menschliche Eingabe erforderlich ist.

Frühe Beispiele sind spezialisierte Recherche-Agenten, Automatisierungsagenten oder Multi-Agenten-Systeme, die mehrere Aufgaben miteinander koordinieren.

Für Unternehmen entstehen dadurch neue Governance-Fragen:

• Wer autorisiert Handlungen?
• Welche Entscheidungen dürfen delegiert werden?
• Wie werden Fehler erkannt?
• Wo bleibt menschliche Aufsicht erforderlich?

Je autonomer KI-Systeme agieren, desto wichtiger werden Governance-Strukturen.

Fazit: Gestaltungsaufgabe statt Compliance-Übung

AI Governance wird damit weniger zu einem Compliance-Projekt als zu einer gemeinsamen Gestaltungsaufgabe für Führung, Digital Workplace Management, HR, IT und Organisationsentwicklung.

Unternehmen, die KI dauerhaft in ihre Arbeitsweise integrieren wollen, müssen drei unterschiedliche Fragen beantworten:

• Welche Nutzung ist zulässig?
• Wie entstehen verlässliche Ergebnisse?
• Wie bleibt die Organisation langfristig leistungsfähig?

Compliance Governance beantwortet die erste Frage. Quality Governance beantwortet die zweite. Capability Governance adressiert die dritte. Erst das Zusammenspiel aller drei Ebenen macht AI Governance zu einer organisatorischen Gestaltungsaufgabe statt zu einer reinen Compliance-Übung.

Die bisherigen Diskussionen rund um KI konzentrieren sich häufig auf Modelle, Werkzeuge und neue Funktionen. Für die tatsächliche Wirkung in Unternehmen sind jedoch andere Fragen entscheidend: Welche Nutzung ist erlaubt? Wer trägt Verantwortung? Welche Qualitätsstandards gelten? Und wie entwickeln wir die Fähigkeiten, die auch künftig gute Ergebnisse ermöglichen?

Genau an diesen Punkten unterscheiden sich Organisationen, die KI als punktuelles Werkzeug einsetzen, von Organisationen, die KI dauerhaft in ihre Arbeitsweise integrieren. AI Governance schafft dafür den Rahmen.

Die Serie im Überblick

Dieser Beitrag ist der Auftakt einer vierteiligen Serie zu AI Governance @ Work. In den folgenden Beiträgen vertiefen wir jede der drei Ebenen mit konkreten Umsetzungsempfehlungen:

• Teil 2: Compliance Governance. Der EU AI Act liefert den Rahmen. Was darüber hinaus geregelt werden muss, beantwortet kein Gesetz: Werkzeuge, Daten, Aufgaben, Entscheidungseinfluss, Kommunikationsanalysen und Agenten.
• Teil 3: Quality Governance. Wie Unternehmen Verantwortlichkeiten klären, Qualitätsstandards definieren, Verifikation organisieren und Mitarbeitende befähigen, KI-Ergebnisse kritisch zu bewerten.
• Teil 4: Capability Governance. Wie Organisationen Lernfähigkeit, Wissensmanagement, Kontextarchitektur und Mensch-KI-Zusammenarbeit gestalten, damit Leistungsfähigkeit langfristig erhalten bleibt.

Die Führungsimplikationen der gesamten AI Governance @ Work Serie fasst der Beitrag «Was gute Führung in KI-Zeiten ausmacht» zusammen: Accountability, Verifikation, Transparenz und Befähigung als die vier zentralen Führungsthemen für die KI-Ära.