Die Debatte über Agentic AI kreist derzeit vor allem um Fähigkeiten. Welches Modell ist das leistungsfähigste? Welche Aufgaben kann ein Agent übernehmen? Wie schnell lässt sich die Technologie im Unternehmen ausrollen? Diese Fragen sind verständlich. Sie gehen aber am eigentlichen Problem vorbei.
Von der Technologie- zur Führungsfrage
Sobald ein KI-System nicht nur Vorschläge macht, sondern selbstständig handelt, verändert sich dessen Rolle grundlegend. Ein Unternehmen führt dann nicht nur ein weiteres Softwarewerkzeug ein, sondern es delegiert Entscheidungs- und Handlungsrechte. Ein Agent greift auf Daten zu, stößt Prozesse an, löst Transaktionen aus oder verändert Systeme.
Vom Smartphone des Außendienstmitarbeiters über den Roboterarm in der Fabrikhalle bis zur Maschine am Förderband – ein fehlgeleiteter Automatisierungsschritt an vernetzter Hardware birgt oft große Risiken und kann Produktionslinien, Lieferketten sowie Menschen gefährden.
Als CISO eines deutschen Softwareunternehmens sehe ich jeden Tag, wie eng Innovation und Kontrolle zusammenhängen – sowohl im eigenen Unternehmen als auch im Austausch mit Kunden. Gleichzeitig erleben wir in vielen Organisationen, dass Sicherheit noch immer vor allem als letzte Prüfinstanz verstanden wird, statt von Anfang an fester Bestandteil von Prozessen, Systemen und Entscheidungen zu sein. Bei autonom agierenden Systemen greift das zu kurz. Sicherheit, nachvollziehbare Verantwortlichkeiten und klare Eingriffsrechte müssen von Anfang an Teil des Betriebsmodells sein. Sonst skaliert nicht die Intelligenz, sondern die Unklarheit.
Agenten machen aus Grauzonen keine klaren Prozesse
Viele Unternehmen können schon heute nicht durchgängig beantworten, wer eine Entscheidung treffen darf, welche Daten dafür genutzt werden können und wer bei einer Ausnahme verantwortlich ist. Zuständigkeiten verteilen sich über Abteilungen und Instanzen, Daten liegen in Silos, Berechtigungsmodelle unterscheiden sich von System zu System. Vieles funktioniert, weil erfahrene Mitarbeitende informelle Regeln kennen und im Zweifel nachfragen.
Ein autonomer Agent kennt diese stillen Übereinkünfte nicht. Er beseitigt organisatorische Unschärfe auch nicht. Er reproduziert sie schneller und in größerem Maßstab. Was im manuellen Prozess eine gelegentliche Ausnahme war, kann automatisiert zum systematischen Risiko werden. Das zeigt auch unsere Studie „Path to the Autonomous Digital Workplace“: Nur 49 Prozent der Befragten sagen, dass die Verantwortlichkeiten klar geregelt sind, wenn autonome Systeme Fehler machen. Gleichzeitig befürchtet jeder Fünfte, persönlich für einen Fehler eines KI-Systems verantwortlich gemacht zu werden. Wer unklare Entscheidungsrechte automatisiert, automatisiert nicht Effizienz, sondern Verantwortungslücken.
Deshalb beginnt die Einführung von Agentic AI nicht mit der Auswahl eines Modells. Sie beginnt mit unbequemen organisatorischen Fragen: Welche Entscheidungen sind delegierbar? Welche Auswirkungen sind reversibel? Wann ist eine Freigabe erforderlich? Wer besitzt den Prozess? Wer überwacht den Agenten? Und wer stoppt ihn, wenn sein Verhalten zwar technisch korrekt, aber schlecht für das Business ist?
Vertrauen entsteht nicht durch maximale Leistungsfähigkeit
In der öffentlichen Diskussion wird Vertrauen häufig mit der Qualität eines Modells gleichgesetzt. Doch ein leistungsfähigeres System ist nicht automatisch ein vertrauenswürdigeres System. Im Unternehmensalltag entsteht Vertrauen durch bekannte Grenzen.
Das bedeutet nicht, dass künftig jeder automatisierte Schritt von einem Menschen freigegeben werden muss. Ein pauschales „Human in the Loop“-Prinzip kann genauso unpraktikabel sein wie eine KI, die völlig eigenständig agiert. Entscheidend ist ein risikobasierter Ansatz. Routinemäßige Vorgänge mit geringem Schadenspotenzial lassen sich weitgehend automatisieren. Je größer die möglichen Auswirkungen auf Sicherheit, Daten oder den Geschäftsbetrieb, desto klarer müssen Leitplanken, Kontrollmechanismen und Freigabeprozesse definiert sein. Dass viele Beschäftigte genau diesen Ansatz bevorzugen, zeigt auch unsere Studie: 40 Prozent der Befragten wünschen sich menschliche Beteiligung insbesondere dann, wenn Sicherheit, Daten oder geschäftskritische Prozesse betroffen sind. Wir sollten autonomen Systemen nicht vertrauen, weil sie intelligent wirken. Wir sollten ihnen vertrauen, weil ihr Verhalten innerhalb klarer Grenzen kontrollierbar bleibt.
Gute Governance ist Infrastruktur
Governance hat in vielen Unternehmen einen schlechten Ruf. Sie gilt als zusätzliche Freigabeschleife, als Dokumentationspflicht, als Bremse für Teams, die schneller umsetzen wollen. Schlechte Governance verdient diesen Ruf. Sie produziert Einzelfallprüfungen, unklare Zuständigkeiten und immer neue Abstimmungen.
Gute Governance hat das Gegenteil zur Folge. Sie schafft wiederverwendbare Entscheidungswege, standardisierte Kontrollen und eindeutige Verantwortlichkeiten. Sie definiert, welche Daten genutzt werden dürfen, welche Aktionen zulässig sind und wann ein Agent eskalieren muss.
Damit wird Governance zur Betriebsplattform für Autonomie. Konsolidierte Daten, einheitliche Identitäten und Berechtigungen, standardisierte Prozesse sowie durchgängige Protokollierung sind keine lästigen Vorarbeiten. Sie entscheiden darüber, ob Agentic AI in einzelnen Pilotprojekten stecken bleibt oder sicher skaliert.
Security darf nicht allein entscheiden, aber sie muss mitgestalten
Die Entscheidung, wo Agenten eingesetzt werden und welchen geschäftlichen Nutzen sie schaffen sollen, gehört in die Fachbereiche und die Unternehmensführung. Verantwortung darf jedoch weder an die Technologie noch pauschal an die Security-Abteilung delegiert werden.
Die Aufgabe der Security-Abteilung ist es, gemeinsam mit Fachbereichen, IT, Datenschutz und Recht ein belastbares System zu gestalten. Dazu gehören Identitäten, Zugriffe, Datenflüsse, Protokollierung, Eskalationsmechanismen und technische Grenzen. Vor allem aber braucht jeder Anwendungsfall einen klaren fachlichen Eigentümer.
Für Unternehmen folgt daraus ein pragmatischer Weg: mit wenigen klar abgegrenzten Prozessen beginnen, Entscheidungsrechte und Datenzugriffe transparent machen, zulässige Aktionen festlegen und Überwachung sowie Eskalation direkt einbauen. Erst wenn dieses Fundament trägt, sollte der Autonomiegrad steigen.
Verantwortung als Wettbewerbsvorteil
Die Gewinner des Agentic-AI-Zeitalters werden nicht zwangsläufig diejenigen sein, die zuerst maximale Autonomie für Agenten zulassen. Ein Vorsprung entsteht dort, wo Unternehmen Verantwortung so klar organisieren, dass sie Autonomie schneller freigeben und breiter einsetzen können.
Gerade die deutsche Industrie bringt dafür gute Voraussetzungen mit. Sie hat jahrzehntelange Erfahrung mit komplexen Produktionsprozessen, bei denen Zuverlässigkeit und Sicherheit entscheidend sind. Was in der Digitalisierung oft als Hindernis für Innovation galt, könnte im Zeitalter autonomer KI zu einem echten Wettbewerbsvorteil werden. Vorausgesetzt, wir verwechseln Sicherheit nicht mit Bürokratie.
Unternehmen sollten deshalb nicht nur fragen, wie schnell sie Agenten einführen können. Sie sollten fragen, wie schnell sie Klarheit, Kontrolle und Verantwortung skalieren können.