Shadow AI erweist sich als wachsendes Unternehmensrisiko

Für die Studie wurden mehr als 800 Fachleute aus IT, Sicherheit, Audit und Governance, Risk & Compliance (GRC) befragt. Das zentrale Ergebnis: Die dringendsten KI-Risiken in Unternehmen gehen nicht von Modellfehlern wie Halluzinationen aus, sondern von unkontrolliertem Mitarbeiterverhalten und Shadow AI.

82 Prozent der Befragten berichten von einem Anstieg KI-gestützter Angriffe in den vergangenen zwölf Monaten – bei CISOs sind es sogar 72 Prozent. Gleichzeitig klafft eine erhebliche Transparenzlücke: Nur 34 Prozent der Unternehmen führen ein formales Inventar ihrer KI-Modelle, nur 18 Prozent blockieren nicht autorisierte KI-Domains automatisch. 56 Prozent nutzen eingebettete KI in Drittanbieter-Tools, ohne dass Mitarbeitende dies als KI-Nutzung wahrnehmen.

Verantwortung ohne Handlungsmacht

Mehr als zwei Drittel der Befragten gaben an, nur eingeschränkt zuversichtlich zu sein, dass ihr Unternehmen auf einen eskalierenden KI-Sicherheitsvorfall entschlossen reagieren könnte. 42 Prozent der CISOs sehen unzureichende KI-Governance als ihre grösste Sorge mit Blick auf künftige regulatorische Anforderungen; 23 Prozent nennen fehlende Expertise im Bereich KI-Sicherheit als zentrale Hürde.

71 Prozent der befragten Compliance- und Risikoteams bezeichnen agentische Technologien und Automatisierung als wertvollste KI-gestützte Funktionen für ihre Arbeit – ein Signal, dass Fachanwender bereit sind, autonome KI-Agenten im GRC-Bereich einzusetzen.

«KI steht auf beiden Seiten der Risikobilanz”, betont Guru Sethupathy, General Manager AI Governance bei Optro. «Sie wird die Risikofläche für Unternehmen deutlich vergrössern – zugleich wird sie ein zentraler Bestandteil des Governance-Stacks werden.”

Der vollständige Report steht unter optro.ai zum Download bereit.