Im ersten Teil unserer Serie zu AI Governance haben wir argumentiert, dass Unternehmen beim Einsatz von KI drei unterschiedliche Herausforderungen gleichzeitig adressieren müssen: Regelkonformität, Ergebnisqualität und langfristige organisatorische Leistungsfähigkeit. Der EU AI Act und unternehmensinterne Richtlinien beantworten dabei vor allem die Frage, welche Formen der KI-Nutzung zulässig sind.

Damit ist jedoch nur ein Teil der Aufgabe gelöst.

Selbst wenn Werkzeuge freigegeben, Datenrichtlinien definiert und Anwendungsfälle geregelt sind, bleibt eine zentrale Frage offen:

Wie stellen wir sicher, dass die Ergebnisse von KI-gestützter Arbeit verlässlich, nachvollziehbar und verantwortbar sind?

Genau hier setzt nach unserer Ansicht eine zweite Ebene von AI Governance an: Quality Governance. Sie beschäftigt sich mit der Frage, wie Unternehmen die Qualität von KI-unterstützter Arbeit absichern können und warum klassische Qualitätsprinzipien von Deming bis zur ISO 9001 im KI-Zeitalter neue Bedeutung gewinnen.

Das eigentliche Problem sind nicht Halluzinationen

Die öffentliche Diskussion über Risiken der KI-Nutzung kreist häufig um Halluzinationen. KI-Systeme können falsche Fakten produzieren, nicht existierende Quellen zitieren oder fehlerhafte Schlussfolgerungen ziehen. Das ist ein reales Problem. Für Unternehmen entsteht jedoch häufig ein anderes Risiko: Ergebnisse wirken professionell, plausibel und fertig, obwohl ihre fachliche Qualität nicht ausreichend geprüft wurde.

In der praktischen KI-Nutzung zeigt sich damit ein subtileres Phänomen: die Qualitätsillusion.

KI erzeugt Ergebnisse, die professionell aussehen, sprachlich überzeugend formuliert sind und auf den ersten Blick fachlich plausibel wirken. Gleichzeitig können diese Ergebnisse fachliche Schwächen enthalten, wichtige Informationen auslassen oder auf fehlerhaften Annahmen beruhen – ohne dass dies unmittelbar erkennbar ist.

Der Unterschied zu Halluzinationen ist entscheidend. Eine Halluzination ist erkennbar falsch und kann überprüft, benannt und korrigiert werden. Die Qualitätsillusion entsteht im Graubereich zwischen formal korrektem Output und fachlich belastbarem Ergebnis. Das Resultat wirkt fertig, kompetent und verwendbar. Genau darin liegt das Risiko: Wer einer Halluzination begegnet, erkennt häufig den Fehler. Wer einer Qualitätsillusion folgt, bemerkt das Problem oft erst dann, wenn die Konsequenzen bereits eingetreten sind.

Organisationen stehen damit vor einer Gestaltungsaufgabe: Welche Verantwortlichkeiten, Standards und Fähigkeiten braucht es, damit verlässliche Arbeitsergebnisse wahrscheinlicher werden – auch wenn KI sie miterzeugt?

Damit rückt eine Frage in den Mittelpunkt, die Management und Qualitätslehre seit Jahrzehnten beschäftigt:

Wie entsteht Qualität?

Qualität entsteht nicht durch Kontrolle

Die Frage nach Qualität ist älter als die aktuelle KI-Debatte. Bereits W. Edwards Deming argumentierte, dass Qualität nicht durch Endkontrolle entsteht, sondern durch das System, das Ergebnisse hervorbringt.

Die zentrale Erkenntnis lautet:

Qualität ist kein Produkt von Kontrolle. Qualität ist das Ergebnis guter Rahmenbedingungen.

Aus dieser Perspektive besteht die Aufgabe von Management nicht darin, jeden Fehler zu finden. Die Aufgabe besteht darin, Verantwortlichkeiten, Standards, Kompetenzen und Prozesse so zu gestalten, dass qualitativ hochwertige Ergebnisse wahrscheinlicher werden.

Diese Überlegungen prägen bis heute moderne Qualitätsmanagementsysteme und finden sich unter anderem in der ISO 9001 wieder. Dort stehen Verantwortlichkeiten, Kompetenz, Nachvollziehbarkeit und Verifikation im Mittelpunkt. Genau diese Elemente werden nun durch den Einsatz von KI neu relevant.

Mit KI stellt sich dieselbe Frage erneut:

Wie schaffen wir verlässliche Ergebnisse, wenn Informationsverarbeitung, Analyse und Entscheidungsvorbereitung zunehmend durch KI unterstützt werden?

Warum KI die Qualitätsfrage neu stellt

KI greift direkt in die informationsbezogenen Teile von Arbeit ein. Sie unterstützt bei Recherche, Analyse, Dokumentation, Planung, Kommunikation und Entscheidungsvorbereitung. Dadurch verändert sich nicht nur die Geschwindigkeit der Arbeit, sondern auch die Art und Weise, wie Informationen erzeugt und verarbeitet werden.

Damit verschiebt sich die Qualitätsfrage. In der traditionellen Arbeitswelt entstand Qualität durch Expertise, Erfahrung und Urteilsvermögen der handelnden Personen. Ihr Beitrag war sichtbar und nachvollziehbar. Mit KI wird dieser Zusammenhang unschärfer. Ergebnisse entstehen schneller, wirken professioneller und sind leichter verfügbar. Gleichzeitig wird es schwieriger zu erkennen, welche fachliche Prüfung tatsächlich stattgefunden hat.

Die Stanford-Forscher Niederhoffer, Robichaux und Hancock haben für dieses Phänomen einen treffenden Begriff geprägt: „Workslop" – Inhalte, die professionell erscheinen, aber unzureichend geprüft oder fachlich schwach sind.

Workslop beschreibt damit keine technische Fehlfunktion. Es beschreibt eine Situation, in der die Qualität eines Ergebnisses nicht mehr an seiner äußeren Form erkennbar ist.

Was wir als Qualitätsillusion beschreiben, findet hier seine empirische Entsprechung: Der Output sieht nach einem Ergebnis aus. Ob er tatsächlich belastbar ist, lässt sich ohne aktive Prüfung nicht erkennen.

Workslop beschreibt damit eine Qualitätsfrage – und damit eine Governance-Frage.

Wie stellen wir sicher, dass KI-gestützte Arbeit belastbare Ergebnisse hervorbringt?

Von Deming zu Drucker: Qualität in informationsbezogenen Arbeitsprozessen

Demings Überlegungen entstanden ursprünglich in einer Welt industrieller Produktions- und Prozessqualität.

KI verändert jedoch vor allem die informationsbezogenen Teile von Arbeit. Genau hier liefert Peter Drucker eine wichtige Ergänzung.

Drucker argumentierte, dass Qualität dort entsteht, wo Menschen Informationen bewerten, Entscheidungen treffen und Verantwortung übernehmen. Diese Überlegung beschränkt sich nicht auf klassische Wissensarbeit. Informationsbezogene Tätigkeiten finden heute in nahezu jedem Arbeitsprozess statt – von der Produktion über den Kundenservice bis zur Projektarbeit.

KI greift genau in diese Informations- und Entscheidungsprozesse ein.

Dadurch verschiebt sich die Anforderung an Mitarbeitende. Früher stand häufig die Beschaffung von Informationen im Mittelpunkt. Heute wird die Bewertung von Informationen zum entscheidenden Qualitätsfaktor.

Die Fähigkeit, Ergebnisse kritisch zu hinterfragen, Quellen einzuordnen und Empfehlungen zu bewerten, wird damit zu einer zentralen Voraussetzung für qualitativ hochwertige Arbeit.

Die vier Säulen der Quality Governance

Aus der Logik moderner Qualitätsmanagementsysteme lassen sich vier Gestaltungsfelder ableiten, die für KI-unterstützte Arbeit besonders relevant werden.

Accountability: KI kann unterstützen – Verantwortung bleibt menschlich

Eine der größten Fehlannahmen der aktuellen KI-Diskussion besteht darin, Verantwortung mit Automatisierung gleichzusetzen.

Je leistungsfähiger KI-Systeme werden, desto häufiger entsteht der Eindruck, dass Entscheidungen zunehmend vom System getroffen werden. In der Praxis ist das selten der Fall. Die meisten KI-Anwendungen liefern Empfehlungen, Bewertungen, Zusammenfassungen oder Vorschläge. Die Entscheidung über deren Nutzung bleibt jedoch beim Menschen.

Gerade hier entstehen neue Grauzonen.

Wenn eine KI einen Bewerber vorschlägt, einen Produktionsfehler analysiert oder einen Kundenbericht erstellt, verschwimmt oft die Frage, wer das Ergebnis eigentlich verantwortet. Mitarbeitende verlassen sich auf die Empfehlung des Systems. Führungskräfte gehen davon aus, dass fachliche Mitarbeitende die Ergebnisse geprüft haben. Niemand kann später eindeutig erklären, wer die eigentliche Entscheidung getroffen hat.

Quality Governance muss deshalb Verantwortlichkeiten sichtbar machen. Nicht weil KI Verantwortung übernehmen kann, sondern weil KI Verantwortlichkeiten unsichtbar machen kann.

Fragen für die Praxis:

• Wer trägt die fachliche Verantwortung für KI-gestützte Ergebnisse?
• Wer trifft die finale Entscheidung?
• Wo endet Assistenz und wo beginnt Verantwortung?
• Welche Entscheidungen dürfen nicht delegiert werden?

Verifikation: Warum Plausibilität zur neuen Kernkompetenz wird

Viele KI-Ergebnisse wirken auf den ersten Blick überzeugend. Genau darin liegt ihre Stärke – und gleichzeitig ihr Risiko.

Ein sauber formulierter Bericht, eine überzeugende Präsentation oder eine detaillierte Analyse erzeugen schnell den Eindruck hoher Qualität. Tatsächlich lässt sich die fachliche Belastbarkeit eines Ergebnisses häufig erst durch zusätzliche Prüfung beurteilen.

Damit entsteht eine neue Herausforderung. Früher bestand ein Großteil der Arbeit darin, Informationen zu beschaffen. Heute verschiebt sich der Schwerpunkt zunehmend auf die Bewertung und Verifikation von Informationen.

Nicht jedes Ergebnis benötigt dieselbe Prüftiefe. Eine interne Meeting-Zusammenfassung stellt andere Anforderungen als ein Kundenangebot, eine Investitionsentscheidung oder eine Personalbeurteilung.

Unternehmen benötigen deshalb keine generelle Kontrollpflicht für KI-Ergebnisse. Sie benötigen eine risikobasierte Verifikationslogik. Je höher die fachliche, finanzielle oder personelle Tragweite eines Ergebnisses ist, desto höher sollten die Anforderungen an Prüfung und Absicherung sein.

Die eigentliche Governance-Frage lautet deshalb nicht, ob geprüft wird, sondern wie intensiv geprüft werden muss.

Fragen für die Praxis:

• Welche Ergebnisse müssen überprüft werden?
• Welche Prüftiefe ist erforderlich?
• Wann genügt eine Plausibilitätsprüfung?
• Wann sind Quellenprüfung oder Peer Review notwendig?

Transparenz: Vertrauen entsteht durch Nachvollziehbarkeit

In vielen Unternehmen wird aktuell darüber diskutiert, ob KI-generierte Inhalte gekennzeichnet werden sollten. Sinnvoll ist diese Diskussion durchaus. Sie greift jedoch zu kurz, solange unklar bleibt, auf welchen Annahmen ein Ergebnis beruht.

Qualität hängt nicht nur vom Ergebnis ab, sondern auch davon, ob nachvollziehbar bleibt, wie dieses Ergebnis entstanden ist.

Bei klassischen Arbeitsprozessen war diese Nachvollziehbarkeit häufig implizit vorhanden. Man wusste, wer recherchiert, gerechnet oder analysiert hatte. Mit KI verschiebt sich diese Transparenz. Informationsquellen werden zusammengeführt, Inhalte automatisch generiert und Empfehlungen in Sekunden erzeugt. Dadurch wird es schwieriger zu erkennen, welche Annahmen einem Ergebnis zugrunde liegen.

Transparenz erfüllt dabei mehrere Funktionen gleichzeitig. Sie erleichtert die fachliche Überprüfung von Ergebnissen. Sie schafft Vertrauen zwischen Beteiligten. Und sie macht Verantwortlichkeiten sichtbar.

Gerade in KI-gestützten Prozessen wird Nachvollziehbarkeit zu einer Voraussetzung dafür, dass Fehler erkannt, Entscheidungen erklärt und Ergebnisse später überprüft werden können.

Die Governance-Frage lautet deshalb weniger:

Wurde KI genutzt?

Sondern:

Können wir nachvollziehen, warum dieses Ergebnis entstanden ist?

Fragen für die Praxis:

• Welche Quellen wurden genutzt?
• Welche Annahmen wurden getroffen?
• Wo wurde KI eingesetzt?
• Welche Schritte bleiben nachvollziehbar?

Befähigung: Qualität entsteht durch Urteilskraft

Die vielleicht größte Herausforderung der KI-Nutzung liegt nicht in der Technologie selbst. Sie liegt in der Frage, wie Menschen mit den Ergebnissen dieser Technologie umgehen.

Peter Drucker argumentierte bereits vor Jahrzehnten, dass Qualität dort entsteht, wo Menschen Informationen bewerten, Entscheidungen treffen und Verantwortung übernehmen. Genau diese Fähigkeiten werden durch KI nicht ersetzt. Sie werden wichtiger.

Denn je einfacher Informationen verfügbar werden, desto entscheidender wird die Fähigkeit, deren Qualität einzuordnen.

AI Literacy wird deshalb häufig zu eng verstanden. Die Fähigkeit, Prompts zu formulieren oder Werkzeuge zu bedienen, ist nur ein Teil der Gleichung.

Ebenso wichtig sind:

• kritisches Denken
• Quellenbewertung
• Reflexionsfähigkeit
• Verifikationskompetenz
• professioneller Umgang mit Unsicherheit

Genau an dieser Stelle treffen Quality Governance und Personalentwicklung aufeinander. Die Einführung von KI verändert nicht nur Werkzeuge, sondern auch die Anforderungen an professionelle Arbeit.

Unternehmen müssen deshalb nicht nur die Nutzung von KI vermitteln. Sie müssen die Fähigkeit stärken, Ergebnisse kritisch zu hinterfragen, Unsicherheiten zu erkennen und Verantwortung für Entscheidungen zu übernehmen.

Quality Governance schließt deshalb immer auch eine Enablement-Dimension ein.

Fragen für die Praxis:

• Welche Kompetenzen benötigen Mitarbeitende?
• Wie trainieren wir kritisches Hinterfragen?
• Welche Fähigkeiten dürfen nicht verloren gehen?
• Wie entwickeln wir professionelle KI-Nutzung?

Exkurs: Welche Rolle spielt Führung?

Die vier Gestaltungsfelder zeigen bereits, dass Quality Governance keine reine Technologiefrage ist. Sie betrifft Mitarbeitende, Führungskräfte und Organisation gleichermaßen. Damit stellt sich zwangsläufig die Frage nach der Rolle von Führung.

Quality Governance bedeutet nicht, dass Führungskräfte künftig jeden KI-generierten Output kontrollieren müssen. Ein solches Verständnis wäre weder praktikabel noch mit moderner Arbeit vereinbar.

Die Aufgabe von Führung besteht vielmehr darin, das Qualitätssystem zu gestalten.

Dazu gehören:

• Qualitätsmaßstäbe definieren
• Verantwortlichkeiten klären
• Reflexion fördern
• Kompetenzentwicklung unterstützen
• Fehlanreize vermeiden

Führung übernimmt damit eine ähnliche Rolle wie im modernen Qualitätsmanagement. Sie verantwortet nicht die einzelne Entscheidung, sondern die Gestaltung der Rahmenbedingungen, in denen gute Entscheidungen entstehen können.

Die Aufgabe von Führung besteht nicht darin, jeden KI-Output zu prüfen. Die Aufgabe besteht darin, Bedingungen zu schaffen, unter denen qualitativ hochwertige Ergebnisse wahrscheinlich werden.

Fazit: Governance verschiebt sich von Zulässigkeit zu Qualität

Der EU AI Act beantwortet die Frage, welche KI-Nutzung zulässig ist.

Quality Governance beantwortet eine andere Frage:

Wie entsteht verlässliche Qualität in einer Arbeitswelt, in der KI zunehmend Teil von Informations- und Entscheidungsprozessen wird?

Der eigentliche Unterschied zur Compliance Governance wird hier sichtbar. Während die erste Ebene fragt, ob KI regelkonform eingesetzt wird, fragt die zweite Ebene, ob die daraus entstehenden Ergebnisse verlässlich sind.

Governance verschiebt sich damit von der Frage der Zulässigkeit zur Frage der Qualität.

Die Antwort liegt weder in Verboten noch in zusätzlicher Kontrolle. Sie liegt in der Gestaltung eines Systems, das Verantwortung, Verifikation, Transparenz und Befähigung miteinander verbindet.

Genau darin liegt die zweite Ebene von AI Governance.

Selbst wenn Qualität abgesichert ist, bleibt eine weitere Herausforderung bestehen. KI verändert nicht nur Ergebnisse, sondern auch die Art und Weise, wie Menschen lernen, Wissen aufbauen und Entscheidungen treffen.

Damit rückt die dritte Ebene von AI Governance in den Mittelpunkt: Capability Governance. Sie beschäftigt sich mit der Frage, wie Organisationen ihre langfristige Arbeits- und Entwicklungsfähigkeit im Zusammenspiel mit KI erhalten und weiterentwickeln.

Alle Beiträge der Serie AI Governance @ Work:

• Teil 1: Warum KI mehr als Richtlinien braucht
• Teil 2: Welche KI-Nutzung Unternehmen konkret regeln müssen
• Teil 3: Warum KI-Qualität zur Managementaufgabe wird (dieser Beitrag)
• Teil 4: Compliance Governance (erscheint demnächst)