Die zunehmende Autonomie von KI-Agenten verändert die Art und Weise, wie Unternehmen Entscheidungen treffen. Während formale KI-Governance-Modelle stark an Bedeutung gewinnen, sinkt das Vertrauen der operativen Anwenderinnen und Anwender. Dieser Widerspruch hat direkte wirtschaftliche Konsequenzen und stellt Dienstleister sowie Digitalagenturen vor neue Aufgaben: Sie müssen von reinen Tool-Integratoren zu Architekten verlässlicher KI-Systeme werden.
Diskrepanz zwischen formeller KI-Governance und betrieblicher Verlässlichkeit
Studien zeigen, dass die formalen Governance-Werte in Unternehmen kontinuierlich steigen, gleichzeitig jedoch das Vertrauen der Beschäftigten in KI-Ergebnisse abnimmt. Der Data and AI Impact Report: The New Economics of Trust von IDC im Auftrag von SAS belegt, dass der Trustworthiness-Index für Deutschland um 8,1 Punkte auf 59,1 Punkte gestiegen ist, das wahrgenommene Vertrauen jedoch um 7,3 Punkte auf 69,5 Punkte gefallen ist.
Hauptgründe für das schwindende Vertrauen sind laut der Studie mangelnde Erklärbarkeit (32,2 %), qualitativ schlechter oder falscher Output (25,4 %) und verzerrte bzw. unfaire Ergebnisse (19,5 %). Diese Zahlen verdeutlichen, dass abstrakte Richtlinien allein nicht ausreichen, um operative Akzeptanz zu sichern.
Warum das Vertrauen der Beschäftigten trotz besserer Governance sinkt
„Weil Richtlinien oft abstrakt bleiben und im operativen Umfeld fehlerhafte oder nicht nachvollziehbare KI-Outputs immer wieder auftreten – insbesondere bei mangelhafter Datenbasis und fehlender Erklärbarkeit,“ erklärt ein Experte im FAQ-Abschnitt der Studie.
Der ‚Override-Reflex‘ – Wie Mitarbeitende KI-Entscheidungen ablehnen
Ein zentrales Phänomen ist der sogenannte Override-Reflex: Mitarbeitende korrigieren oder verwerfen automatisierte Entscheidungen in großem Stil, wenn Transparenz fehlt. Die globale Ablehnungsrate von KI-Empfehlungen liegt bei 97,2 % (2026), ein klarer Indikator für das verbreitete Misstrauen.
„Der manuelle ‚Override-Reflex‘ bremst Produktivitätsgewinne spürbar aus“, so Ingo Macht, Country Leader Deutschland von SAS.
Fehleranfälligkeit autonomer KI-Agenten
Autonome KI-Agenten, die mehrstufige Prozesse eigenständig ausführen, weisen in komplexen Aufgabenstellungen Fehlerraten von über 25 % auf. Diese Aussage stammt von Bryan Harris, CTO bei SAS, und unterstreicht das Risiko, das entsteht, wenn keine domänenspezifischen Leitplanken existieren.
Wirtschaftlicher Nutzen vertrauenswürdiger KI
Die ökonomische Relevanz von Trustworthy AI lässt sich anhand konkreter Kennzahlen belegen:
- Die Wahrscheinlichkeit für einen starken ROI liegt bei Vorreitern bei 62 % gegenüber 4 % bei Nachzüglern – ein Faktor von 15 (IDC/SAS, 2026).
- 30,1 % der deutschen Unternehmen erzielen bereits einen starken oder hohen KI-ROI, was über dem globalen Benchmark liegt.
Ingo Macht fasst zusammen: „Governance ist kein reiner Compliance-Kostenfaktor, sondern der primäre Gewinntreiber. Datenqualität muss in die Systeme eingebettet sein – nicht nachträglich geprüft werden.“
Branchenstandards und regulatorische Vorgaben
Deutsche Digital- und Branchenverbände wie der BVDW fordern verbindliche Leitplanken für KI-Agentensysteme. Aktuelle Zahlen zeigen:
- 66,3 % der Unternehmen verfügen über eine Responsible-AI-Policy (IDC/SAS, 2026).
- Nur 16,3 % schreiben verbindliche Datenqualitätsprozesse je Projekt vor.
- Der EU AI Act treibt die Umsetzung von Governance-Strukturen weiter voran.
Der BVDW stellt praxisnahe Empfehlungen bereit, die von Auditierbarkeit über Human-in-the-Loop-Mechanismen bis hin zur Konformität mit dem EU AI Act reichen.
Aufgaben für Dienstleister und Agenturen im Zeitalter der Agentic AI
Für Digitalagenturen bedeutet die Verbreitung von Agentic AI einen Paradigmenwechsel:
- Von der reinen Modellauswahl hin zur Bereitstellung prüfbarer Architekturen.
- Integration von Datenqualitäts- und Kontrollmechanismen bereits in die technische und organisatorische Architektur.
- Entwicklung klarer Human-in-the-Loop-Schnittstellen, um den Override-Reflex zu reduzieren.
- Aufbau von Auditing- und Reporting-Capabilities, die den Anforderungen des EU AI Act entsprechen.
Der Bericht von SAS betont, dass Agenturen, die diese Aufgaben übernehmen, nicht nur das Vertrauen der Anwender sichern, sondern auch die 15-fache ROI-Wahrscheinlichkeit aktiv mitgestalten können.
Schnellüberblick:
Warum sinkt das Vertrauen der Beschäftigten trotz besserer Governance?
Weil Richtlinien oft abstrakt bleiben und im operativen Umfeld fehlerhafte oder nicht nachvollziehbare KI-Outputs immer wieder auftreten – insbesondere bei mangelhafter Datenbasis und fehlender Erklärbarkeit.
Was unterscheidet klassische KI von Agentic AI im Hinblick auf Governance?
Klassische KI bietet Empfehlungen, die manuell geprüft werden. Autonome Agenten führen mehrstufige Aktionen eigenständig aus und können ohne präzise Governance-Frameworks schwer kontrollierbare Fehler verursachen.
Quellen
- https://www.sas.com/dede/news/press-releases/2026/september/sas-studie-vertrauen-verbessert-die-erfolgsaussichten-fuer-ki-projekte-um-den-faktor-15.html
- https://www.it-daily.net/it-management/daten-ki/vertrauen-steigert-erfolg-von-ki-projekten
- https://www.bvdw.org/der-bvdw/presse/detail/artikel/bvdw-gibt-orientierung-fuer-den-verantwortungsbewussten-einsatz-von-ki-agentensystemen/