KI-Agenten vermehren sich explosionsartig – 6 Schritte zur Kontrolle

Diese explosionsartige Verbreitung erhöht laut Gartner die IT-Komplexität und den Governance-Aufwand erheblich. Derzeit glauben nur 13 Prozent der Unternehmen, über eine angemessene Governance für KI-Agenten zu verfügen.

Gartner warnt davor, den Einsatz von KI-Agenten pauschal zu blockieren: Mitarbeitende weichen dann erfahrungsgemäss auf Shadow AI aus – mit potenziell noch grösseren Risiken. Stattdessen empfiehlt das Analystenhaus sechs Massnahmen zur strukturierten Steuerung.

Konzept gegen unkontrollierte Ausbreitung

Als ersten Schritt empfiehlt Gartner die Einführung klarer Governance-Richtlinien: Wer darf Agenten erstellen und teilen, welche Konnektoren sind erlaubt? Darauf aufbauend soll ein zentrales Agenteninventar mit Hilfe von AI-TRiSM-Tools aufgebaut werden, das auch Shadow-AI-Lösungen erfasst. Drittens sind Identität, Berechtigungen und Lebenszyklus jedes Agenten zu definieren und veraltete Agenten zu deaktivieren.

Der vierte Schritt umfasst eine KI-Informations-Governance, die regelt, auf welche Daten ein Agent zugreifen darf und wie diese aktuell gehalten werden. Fünftens soll das Verhalten der Agenten kontinuierlich überwacht und bei Regelverstössen korrigiert werden. Abschliessend empfiehlt Gartner den Aufbau einer unternehmensweiten Kultur verantwortungsvoller KI-Nutzung durch Schulungsprogramme und Communities of Practice.

«Unternehmen müssen eine Balance finden: Sie sollten den Einsatz von Agenten steuern und ihre Verbreitung kontrollieren, zugleich aber ihre Mitarbeitenden in die Lage versetzen, diese Technologien sicher und innovativ zu nutzen”, fordert Max Goss, Senior Director Analyst bei Gartner.