Auf Shift/Work haben wir in den vergangenen Monaten mehrfach über die Zusammenarbeit von Menschen und KI-Agenten diskutiert. Konzepte wie Human-Agent Collaboration, Frontier Firms und Work Charts zeichnen das Bild einer Arbeitsorganisation, in der Menschen und digitale Agenten gemeinsam Aufgaben übernehmen und sich zu flexiblen Teams verbinden. Auch wir haben diese Perspektive aufgegriffen, etwa in unseren Beiträgen zu Frontier Firms und Work Charts und zur Human-AI-Symbiose. Dieses Bild müssen wir inzwischen zumindest teilweise überdenken.

Was sich etwa in der agentischen Softwareentwicklung beobachten lässt, folgt häufig einer anderen Logik. Agenten werden nicht einfach wie zusätzliche Teammitglieder in bestehende Abstimmungs- und Entscheidungsprozesse integriert. Sie erhalten definierte Arbeitsaufträge, bearbeiten diese innerhalb vorgegebener Handlungsspielräume und liefern Ergebnisse zurück, die geprüft und in weitere Arbeitsprozesse eingebunden werden. Menschen übernehmen dabei zunehmend die Steuerung und Aufsicht über mehrere parallele Ausführungsprozesse.

Im ersten Teil unserer Serie From Knowledge Work to Agentic Work haben wir beschrieben, wie sich dadurch die menschliche Wissensarbeit verändert: Die unmittelbare Ausführung tritt teilweise hinter die Beauftragung, Steuerung und Bewertung von Arbeit zurück. Für die Organisation folgt daraus eine weiterführende Frage: Ist das Mensch-Agenten-Team überhaupt die richtige Denkfigur, oder sollten wir stärker über die Gestaltung hybrider Arbeitssysteme sprechen?

Feste Abläufe treffen auf flexible Ausführung

Klassische Prozessmodelle beschreiben Abläufe, Zuständigkeiten und Entscheidungspunkte. Agentische Systeme können innerhalb vorgegebener Grenzen eigene Wege zur Zielerreichung wählen. Sie zerlegen einen Auftrag, holen Informationen ein, nutzen Werkzeuge und bestimmen weitere Bearbeitungsschritte. Die Ausführung kann dadurch weniger streng sequenziell verlaufen. Gleichzeitig sind die Entscheidungen der zugrunde liegenden KI-Modelle nicht in jedem Fall vollständig vorhersehbar.

Workflows verschwinden deshalb nicht. Vielmehr entstehen hybride Arbeitssysteme, die deterministische Prozessabschnitte mit agentischer Bearbeitung verbinden. Sie nutzen automatisierte Prüfungen, legen verbindliche Kontrollpunkte fest, behalten bestimmte Entscheidungen beim Menschen und sehen Eskalationswege für Ausnahmen vor. Orchestrierung bedeutet in diesem Zusammenhang, diese Elemente so aufeinander abzustimmen, dass Aufgaben zuverlässig bearbeitet und Ergebnisse fachlich verantwortet werden können.

Dabei müssen zwei Ebenen unterschieden werden. Business Process Orchestration koordiniert fachliche Aufgaben, Entscheidungen, Prozesszustände und Verantwortlichkeiten über Systeme und Beteiligte hinweg. Technical Agent Orchestration organisiert dagegen die technische Ausführung: das Zusammenspiel von Agenten, KI-Modellen, Werkzeugen und Laufzeitumgebungen. Beide Ebenen hängen eng zusammen, beantworten aber unterschiedliche Fragen. Die technische Orchestrierung ermöglicht die Ausführung, während das fachliche Operating Model bestimmt, welche Aufgaben unter welchen Bedingungen erledigt werden dürfen und wer die Verantwortung trägt.

Damit erweitert sich die Perspektive gegenüber dem bisherigen Team-Modell. Human-Agent Collaboration bleibt relevant für die Gestaltung der Zusammenarbeit und Interaktion. Die Orchestrierung betrachtet darüber hinaus das gesamte Arbeitssystem mit seinen Prozesszuständen, Informationsgrundlagen, Entscheidungsrechten und Kontrollmechanismen.

Verbindlich sind die Grenzen, nicht jeder Weg

Unternehmen benötigen Sicherheit, Qualität, Nachvollziehbarkeit und klare Verantwortlichkeiten. Agentische Ausführung eröffnet zugleich Handlungsspielräume, weil nicht jeder Bearbeitungsschritt im Voraus definiert werden muss. Entscheidend ist deshalb, innerhalb welcher Grenzen Agenten selbstständig handeln können.

Zu diesen Rahmenbedingungen gehören:

• Ziele und Aufgaben: Welche Ergebnisse sollen erreicht werden, und welche Tätigkeiten sind zulässig?
• Daten, Werkzeuge und Berechtigungen: Auf welche Ressourcen dürfen Agenten zugreifen, und welche Aktionen dürfen sie ausführen?
• Geschäftsregeln und Qualitätsanforderungen: Welche Vorgaben sind verbindlich, und anhand welcher Kriterien werden Ergebnisse beurteilt?
• Kontrollpunkte und Freigaben: Welche Entscheidungen benötigen eine ausdrückliche menschliche Bestätigung?
• Stop- und Eskalationsbedingungen: Wann muss die Ausführung unterbrochen, korrigiert oder an Menschen übergeben werden?
• Protokollierung und Nachvollziehbarkeit: Welche Informationen müssen verfügbar sein, um Aktionen und Ergebnisse später überprüfen zu können?

Das Arbeitsprinzip dahinter: Agenten können unterschiedliche Wege zur Erfüllung eines Auftrags wählen. Die Grenzen ihres zulässigen Handelns müssen jedoch eindeutig festgelegt und wirksam durchgesetzt werden. Qualitätsanforderungen müssen überprüfbar sein, auch wenn ihre Bewertung nicht immer vollständig automatisiert oder deterministisch erfolgen kann.

Dabei besteht ein wichtiger Unterschied zwischen beschriebenen und technisch durchgesetzten Grenzen. Eine Anweisung in natürlicher Sprache kann das Verhalten eines Agenten beeinflussen, bildet aber keine verlässliche Sicherheitsgrenze. Die Softwareentwicklung zeigt, welche ergänzenden Mechanismen dafür notwendig sind: klar definierte Berechtigungen, isolierte Ausführungsumgebungen, automatisierte Tests und geschützte Entwicklungszweige. In anderen Arbeitsbereichen müssen vergleichbare Kontrollmechanismen teilweise erst geschaffen oder auf die jeweiligen Anforderungen übertragen werden.

Warum KI-Governance dafür über Richtlinien und Verhaltensregeln hinausgehen muss, haben wir in unserer Serie AI Governance @ Work: Warum KI mehr als Richtlinien braucht bereits ausführlicher diskutiert.

Warum agentische Arbeit eine kontinuierliche Überprüfung der Zielausrichtung braucht

Die Definition zulässiger Handlungsspielräume ist allerdings nur der Ausgangspunkt. Agentische Systeme treffen während der Bearbeitung eigene Zwischenentscheidungen, bewerten Ergebnisse und passen ihre nächsten Schritte daran an. Dabei können Bearbeitungsstrategien entstehen, die zwar einzelne Erfolgskriterien erfüllen, insgesamt aber vom ursprünglich beabsichtigten fachlichen Ergebnis abweichen.

Solche Entwicklungen müssen nicht auf einem tatsächlichen Lernprozess des KI-Modells beruhen. Sie können bereits aus der wiederholten Planung, Ausführung und Bewertung innerhalb eines Arbeitsauftrags entstehen. Entscheidend ist, ob die Rückmeldungen, an denen sich ein Agent orientiert, die tatsächlichen fachlichen Anforderungen ausreichend abbilden.

Die Forschung zu Reinforcement Learning und Reward Hacking beschreibt eine verwandte Problematik. Modelle können lernen, vorgegebene Erfolgskriterien zu erfüllen, ohne die damit eigentlich beabsichtigte Aufgabe angemessen zu lösen. In der Anthropic-Untersuchung From Shortcuts to Sabotage: Natural Emergent Misalignment from Reward Hacking vom November 2025 wurde unter experimentellen Trainingsbedingungen beobachtet, dass Modelle nach dem Erlernen unerwünschter Optimierungsstrategien auch in anderen Situationen problematische Verhaltensweisen entwickelten.

Das ist kein unmittelbarer Nachweis vergleichbarer Entwicklungen im produktiven Betrieb jedes Agentensystems. Die Forschung verdeutlicht aber eine grundlegende Schwierigkeit: Die Erfüllung formaler Erfolgskriterien garantiert nicht, dass ein System weiterhin im Sinne des ursprünglich beabsichtigten Ziels handelt.

Für die Organisation agentischer Arbeit bedeutet das, dass menschliche Aufsicht auch den eingeschlagenen Bearbeitungsweg und seine fachliche Angemessenheit berücksichtigen muss. Dazu gehören die Prüfung von Zwischenzielen, die Bewertung entstehender Abhängigkeiten und die Möglichkeit, einen Auftrag neu auszurichten. Orchestrierung ist damit nicht nur die einmalige Festlegung eines kontrollierten Prozesses, sondern umfasst die laufende Beobachtung und Anpassung des Arbeitssystems.

Wenn Agenten ihre eigenen Arbeitspraktiken fortschreiben

Eine zusätzliche Herausforderung entsteht, wenn Agenten Erfahrungen aus früheren Aufgaben speichern und für spätere Ausführungen wiederverwenden. Solche persistenten Kontexte ermöglichen eine bessere Anpassung an Projekte und wiederkehrende Anforderungen. Gleichzeitig können unzureichend geprüfte Annahmen und Fehlpraktiken über einzelne Aufträge hinaus wirksam bleiben.

Claude Code bietet dafür ein anschauliches Beispiel. Laut der offiziellen Dokumentation How Claude Remembers Your Project unterscheidet das System zwischen dauerhaften Projektanweisungen in CLAUDE.md-Dateien und automatisch angelegten Erinnerungen (Auto Memory). Letztere können unter anderem Erkenntnisse aus früheren Arbeiten, projektspezifische Zusammenhänge und wiederkehrende Korrekturen enthalten. Beide Formen können spätere Ausführungen beeinflussen.

Daraus ergibt sich ein mögliches Fehlermuster: Ein Agent wählt bei einer Aufgabe eine fragwürdige Abkürzung, etwa indem er auf eine eigentlich notwendige Prüfung verzichtet. Das Ergebnis wird akzeptiert, ohne dass die Abweichung erkannt wird. Speichert der Agent diese Vorgehensweise anschließend als nützliche Erfahrung, kann sie bei späteren Aufgaben erneut zur Orientierung dienen. Eine situative Fehlpraktik erhält damit möglicherweise den Charakter einer vermeintlich bewährten Projektkonvention.

Eine automatisch gespeicherte Erinnerung ist dabei keine verbindliche Regel. Auch Projektanweisungen werden von Sprachmodellen als Kontext verarbeitet und sind nicht mit technisch erzwungenen Grenzen gleichzusetzen. Dennoch können beide das zukünftige Verhalten prägen. Eine solche Kontextfortschreibung ist auch kein Reinforcement Learning im technischen Sinn: Das Modell verändert dadurch nicht automatisch seine trainierten Gewichte. Es verändert aber die Informations- und Anweisungsgrundlage seiner späteren Arbeit.

Damit kommt eine weitere Kontrollaufgabe hinzu. Neben der Überprüfung einzelner Ausführungen und Ergebnisse müssen Organisationen nachvollziehen können, welche Erfahrungen, Regeln und Annahmen ein Agent dauerhaft übernimmt. Entscheidend sind deren Herkunft, fachliche Gültigkeit und die Möglichkeit, fehlerhafte oder überholte Einträge zu korrigieren. Die Pflege persistenter Agentenkontexte wird so zu einem Bestandteil der Governance agentischer Arbeitssysteme.

Supervisory Work: Was Menschen in orchestrierten Arbeitssystemen tun

Im ersten Serienteil haben wir die Verschiebung von ausführungsbezogener zu steuerungsbezogener Wissensanwendung beschrieben. Auf der Ebene der Arbeitsorganisation lässt sich diese Veränderung an konkreten Tätigkeiten festmachen. Wir fassen sie unter dem Begriff Supervisory Work zusammen: die menschliche Beauftragung, Begleitung, Kontrolle und Weiterentwicklung agentischer Arbeit.

Diese Tätigkeiten sind nicht grundsätzlich neu. Projektverantwortliche, Führungskräfte und Fachpersonen übernehmen vergleichbare Aufgaben bereits bei der Koordination menschlicher Arbeit. Mit agentischer Ausführung verändern sich jedoch die Geschwindigkeit, die Parallelität und die Art der Kontrolle. Hinzu kommt die Möglichkeit, dass ein Agent gespeicherte Erfahrungen für spätere Aufträge verwendet und dadurch seine Arbeitsweise über einzelne Ausführungen hinaus beeinflusst wird.

Die Tätigkeiten müssen nicht in einer neuen Berufsrolle gebündelt werden. Je nach Arbeitssystem verteilen sie sich auf Fachkräfte, Führung, Prozessverantwortliche und technische Plattformteams. Unsere acht Tätigkeitsfelder sind dabei eine redaktionelle Systematisierung der Aufgaben, die sich aus der Gestaltung agentischer Arbeitssysteme ergeben.

Wie solche Aufsicht in der Softwareentwicklung bereits praktiziert wird, hat Microsoft Research in der qualitativen Studie Human Oversight of Agentic Systems in Practice: Examining the Oversight Work, Challenges, and Heuristics of Developers Using Software Agents untersucht. Auf Grundlage von Interviews mit 17 erfahrenen Entwickelnden unterscheiden die Forschenden vier Formen menschlicher Aufsicht: Vorgaben vor dem Start, gemeinsame Planung mit dem Agenten, Beobachtung während der Ausführung und nachträgliche Überprüfung.

Eine weitere Untersuchung von Markus Stolze und Mirco Strässle, veröffentlicht auf der ESEM 2026, beschreibt eine ähnliche Entwicklung: When Review Alone No Longer Scales: Layered Supervision in AI-Assisted Software Engineering. Sie untersucht, wie Softwareentwicklungsteams mit der wachsenden Menge KI-generierter Codeänderungen umgehen und die klassische Codeprüfung durch vorgelagerte Regeln, automatisierte Prüfmechanismen und übergreifende menschliche Kontrolle ergänzen. Grundlage sind Interviews mit fünf Praktikern im Kontext einer ergänzenden Befragung.

Beide Untersuchungen sind explorativ und nicht repräsentativ. Sie dokumentieren aber konkrete Praktiken, bei denen menschliche Aufsicht bereits vor der Ausführung ansetzt, während der Bearbeitung stattfindet und nach der Ergebnisprüfung zur Weiterentwicklung des Arbeitssystems beiträgt. Damit lässt sich Supervisory Work als zusammenhängender Aufgabenbereich betrachten, dessen Gestaltung über eine reine Schlusskontrolle hinausgeht.

Abb.: Schematische Darstellung der Rolle des Menschen bei der Nutzung von agentischen Arbeitsinstrumenten

Ohne fachlichen Kontext bleibt die Steuerung unvollständig

Die Orchestrierung eines Arbeitssystems benötigt neben Prozessregeln und technischen Schnittstellen auch fachlichen Kontext. Agenten müssen auf Informationen zugreifen können, die für den jeweiligen Auftrag relevant sind: Ziele, geltende Prinzipien, frühere Entscheidungen, fachliche Zusammenhänge und die Grenzen des eigenen Handlungsspielraums.

In menschlichen Arbeitsprozessen wird vieles davon nicht ausdrücklich dokumentiert. Erfahrungswissen, persönliche Abstimmungen und gemeinsames Verständnis helfen dabei, unvollständige Anforderungen einzuordnen. Agenten können auf solche Zusammenhänge nur insoweit zurückgreifen, wie sie im jeweiligen Arbeitssystem verfügbar oder durch Interaktion erschließbar sind.

Es geht deshalb nicht darum, sämtliches implizites Wissen zu formalisieren. Unternehmen müssen vielmehr klären, welche fachlichen Informationen und Entscheidungsgrundlagen für eine delegierte Aufgabe erforderlich sind, wie deren Gültigkeit gesichert wird und wann eine Rückfrage an Menschen notwendig ist.

Mit persistenten Agenten-Memories kommt die Gegenrichtung hinzu: Agenten nutzen vorhandenes Wissen und erzeugen zugleich neue Informationsbestände, die spätere Arbeitsprozesse beeinflussen. Wie diese Wissensbestände gepflegt, geprüft und fachlich verantwortet werden, wird damit selbst zu einer Organisationsfrage.

Wo die Orchestrierung an organisatorische Grenzen stößt

Hybride Arbeitssysteme werfen Fragen auf, die sich durch technische Orchestrierung allein nicht beantworten lassen. Fünf Herausforderungen erscheinen uns dabei besonders relevant.

Verantwortung ohne vollständige Ausführungskenntnis. Menschen beurteilen und verantworten Ergebnisse, deren Entstehung sie nur teilweise nachvollzogen haben. Das setzt verlässliche Prüfmechanismen und ausreichendes fachliches Urteilsvermögen voraus. Zugleich muss festgelegt sein, welche Verantwortung bei Fachverantwortlichen, Prozessverantwortlichen und technischen Betreibern liegt. Ein allgemeiner Verweis auf Human Oversight reicht dafür nicht aus.

Kontrollbelastung. Die Delegation von Aufgaben reduziert nicht automatisch den gesamten Arbeitsaufwand. Neue Tätigkeiten entstehen bei der Formulierung von Aufträgen, der laufenden Beobachtung, der Integration von Ergebnissen und der Fehlerkorrektur. Der im ersten Teil diskutierte METR-Befund aus dem Jahr 2025 illustriert, wie der Umgang mit KI unter bestimmten Bedingungen zusätzlichen Aufwand verursachen kann. Er ist allerdings keine aktuelle Produktivitätsmessung agentischer Arbeitssysteme. Welche Entlastung tatsächlich entsteht, muss im jeweiligen Arbeitszusammenhang betrachtet werden.

Parallele Aufträge. Agenten können mehrere Arbeitspakete gleichzeitig bearbeiten. Damit stellt sich die Frage, wie viele parallele Arbeitsstränge Menschen verlässlich überblicken, bewerten und steuern können. Die Antwort hängt unter anderem von Aufgabenkomplexität, Qualität der Kontrollmechanismen und erforderlicher Eingriffshäufigkeit ab. Belastbare allgemeine Grenzen für die sinnvolle Anzahl paralleler Agentenaufträge lassen sich aus den bisher angeführten Studien nicht ableiten.

Vertrauen und angemessene Kontrolle. Weder die unkritische Übernahme agentischer Ergebnisse noch die vollständige manuelle Nachprüfung jedes Schritts ist ein tragfähiges allgemeines Steuerungsprinzip. Eine randomisierte Feldstudie mit begleitender Tagebuchmethode von Microsoft Research, Dear Diary: A Randomized Controlled Trial of Generative AI Coding Tools in the Workplace, zeigt, dass Entwickelnde KI-Coding-Werkzeuge im Verlauf der Nutzung als nützlicher erleben, während ihre Einschätzung der Vertrauenswürdigkeit generierten Codes weitgehend unverändert bleibt. Für die Arbeitsorganisation stellt sich damit die Frage, wie Kontrolle risikogerecht gestaltet werden kann, ohne die Vorteile der Delegation wieder aufzuheben.

Führung und Organisationsdesign. Wenn Menschen und Agenten Aufgaben gemeinsam bearbeiten, verändern sich Entscheidungswege, Verantwortlichkeiten und Anforderungen an Leistungsbewertung. Dabei sollten neue Führungsrollen nicht isoliert von den zugrunde liegenden Strukturen betrachtet werden. In unserem Beitrag Organisationsdesign vor Führungsstil: Was bei der KI-Transformation zuerst geklärt werden muss haben wir beschrieben, weshalb Prozessarchitektur, Datenverantwortung und Kontrollregeln organisatorisch geklärt werden müssen.

Die übergreifende Konsequenz daraus: Die Orchestrierung agentischer Arbeit gehört zur Gestaltung des Operating Models. Prozesse, Entscheidungsrechte, Informationsgrundlagen und Kontrollmechanismen müssen auf die neue Arbeitsteilung abgestimmt werden. Hinzu kommt die laufende Überprüfung, ob das tatsächliche Systemverhalten und seine fortgeschriebenen Arbeitspraktiken weiterhin den fachlichen Zielen entsprechen.

Wie es weitergeht

Das Bild vom Mensch-Agenten-Team bleibt hilfreich, um über Zusammenarbeit, Rollen und Interaktion zu sprechen. Für die Gestaltung verlässlich arbeitender agentischer Systeme greift es jedoch zu kurz. Die relevante Betrachtungsebene ist das Arbeitssystem mit seinen Aufträgen, Prozesszuständen, Wissensgrundlagen und Kontrollmechanismen.

Menschliche Aufsicht endet dabei nicht mit der Freigabe eines Ergebnisses. Wenn Agenten eigenständig handeln, ihre Bearbeitung an Rückmeldungen ausrichten und Erfahrungen für spätere Aufgaben speichern, muss auch die Entwicklung ihrer Arbeitsweisen überprüfbar bleiben. Supervisory Work wird damit zu einer dauerhaften Aufgabe innerhalb des Operating Models.

Eine wesentliche Voraussetzung dafür ist die Qualität des verfügbaren Wissens. Im dritten Teil unserer Serie From Knowledge Work to Agentic Work beschäftigen wir uns deshalb mit der Frage, wie Unternehmen ihre Informations- und Wissensbestände organisieren müssen, damit KI-Assistenten und Agenten fachlich verlässlich damit arbeiten können. Dazu gehört auch der Umgang mit neu entstehenden, KI-generierten und dauerhaft gespeicherten Wissensbeständen.

Die Gestaltung neuer Arbeitsmodelle, das Zusammenspiel von Mensch und KI sowie die organisatorischen Anforderungen an Governance und Prozessmanagement greifen wir auch beim Shift/Work Smart Work & Employee Communications SUMMIT am 12. November 2026 auf.