KI macht Governance zum neuen Engpass
Eine neue Untersuchung von Amazon Web Services zeigt, dass bei der Einführung künstlicher Intelligenz in Unternehmen zunehmend nicht mehr die Technologie selbst der größte Engpass ist. Stattdessen geraten bestehende Prozesse für Sicherheit, Governance und Freigaben unter Druck.
Für den Bericht „Reimagine: Turning AI into Value“ führte AWS über neun Monate Gespräche mit insgesamt 154 Personen, darunter 128 Führungskräfte aus Unternehmen in 27 Ländern und 23 Branchen.
Klassische Prozesse sind zu langsam
Viele Unternehmen nutzen laut der Untersuchung weiterhin Governance Prozesse, die für klassische IT Projekte mit Laufzeiten von mehreren Monaten entwickelt wurden. KI Projekte entstehen jedoch teilweise innerhalb weniger Tage oder Wochen.
Dadurch entsteht ein neues Problem: Wenn ein kurzes KI Experiment länger auf eine Freigabe wartet als seine eigentliche Entwicklung dauert, steigt der Anreiz, offizielle Prozesse zu umgehen. Das fördert sogenannte Shadow AI bzw. Schatten-KI, also den Einsatz nicht genehmigter KI Anwendungen.
Besonders relevant wird das bei KI Agenten. Diese Systeme erzeugen nicht nur Inhalte, sondern können selbstständig auf Daten zugreifen, Werkzeuge aufrufen und Aktionen in Unternehmenssystemen ausführen.
AWS empfiehlt deshalb in ihren Leitlinien zur Governance von KI Agenten zentrale Register für Agenten und deren Berechtigungen, klare Zugriffsregeln, Protokollierung sowie technisch durchgesetzte Richtlinien. Ein Agent sollte dabei niemals mehr Zugriffsrechte besitzen als der Mitarbeiter, der ihn verwendet.
Governance muss mit KI Schritt halten
Die zentrale Aussage der Untersuchung lautet daher: Je stärker KI Entwicklung und Automatisierung beschleunigt, desto stärker werden langsame Sicherheitsprüfungen und Freigaben zum Flaschenhals.
Für CIOs und CISOs bedeutet das, dass Governance künftig stärker direkt in die technische Infrastruktur eingebaut werden muss. Statt einzelne KI Projekte ausschließlich manuell zu prüfen, benötigen Unternehmen laufende Kontrollen für Agenten, Datenzugriffe, Berechtigungen und ausgeführte Aktionen.
