Unternehmen weiten den Einsatz von KI-Systemen rasant aus. Laut einem neuen Bericht von Deloitte können die Sicherheits- und Kontrollmechanismen jedoch nicht mithalten. Stand der KI im Unternehmen Eine Studie, die auf einer Umfrage unter mehr als 3.200 Führungskräften in 24 Ländern basiert, hebt eine zunehmende Kluft zwischen der Einführung und der Überwachung hervor, wenn agentenbasierte KI von Pilotprojekten in Produktionsumgebungen übergeht.
Die Daten von Deloitte zeigen t231.050 Unternehmen nutzen bereits KI-Agenten zumindest in moderatem Umfang – eine Zahl, die Prognosen zufolge in den nächsten zwei Jahren auf 741.050 ansteigen wird. Gleichzeitig wird erwartet, dass der Anteil der Unternehmen, die überhaupt keine Agenten einsetzen, von 251.050 auf nur noch 51.050 sinkt. Trotz dieser rasanten Verbreitung gaben lediglich 211.050 der Befragten an, dass ihre Unternehmen derzeit über robuste Sicherheits- und Kontrollmechanismen zur Bewältigung agentenbezogener Risiken verfügen. Deloitte warnte davor, dass mit zunehmender Skalierung agentenbasierter KI eine schwache Governance die Wertschöpfung einschränken könnte. Darüber hinaus steigt das Risiko von Betriebs-, Sicherheits- und Compliance-Problemen.
Im Gegensatz zu herkömmlichen Chatbots haben Unternehmen wie OpenAI, Microsoft, Google, Amazon und Salesforce automatisierte Systeme als Produktivitätsbeschleuniger beworben. Deloitte weist jedoch darauf hin, dass Autonomie ohne angemessene Kontrollmechanismen neue Risiken birgt. Diese reichen von unerwartetem Verhalten bis hin zu Prompt-Injection-Angriffen, insbesondere wenn automatisierte Systeme ohne klar definierte Grenzen agieren. Große Technologieanbieter haben automatisierte Systeme als Produktivitätsbeschleuniger beworben, doch Deloitte warnt davor, dass Autonomie ohne angemessene Kontrollmechanismen den Schaden vergrößern kann.
Weitere Forschungsergebnisse untermauern diese Besorgnis. Jüngste Studien ergaben, dass zwar 841.050 IT-Fachkräfte den Einsatz von KI-Agenten in ihren Unternehmen angeben, aber weniger als die Hälfte davon tatsächlich KI-Agenten einsetzt.Es fehlen Richtlinien, die diese Systeme regeln. Umfragen zeigen außerdem, dass viele Mitarbeiter KI-Tools ohne formale Sicherheitsschulung nutzen. Zudem fehlt ihnen Einblick in die Art und Weise, wie ihre Arbeitgeber KI im großen Stil einsetzen.
Wichtigste Erkenntnisse für Führungskräfte:
- Die Einführung von KI-Agenten schreitet schneller voran als die Entwicklung von Sicherheits- und Governance-Rahmenwerken.
- Nur eine kleine Minderheit der Organisationen verfügt über eine solide Aufsicht.
- Autonome Agenten erhöhen das Risiko im Vergleich zu herkömmlichen Chatbots.
- Klare Abgrenzungen, Überwachung und Prüfprotokolle sind unerlässlich, wenn die Anzahl der Agenten steigt.
Deloitte kommt zu dem Schluss, dass die Einführung in der frühen Phase zwar selten mit perfekten Leitplanken einhergeht, die Aufsicht aber dennoch Priorität haben muss. Das Unternehmen empfiehlt, klare Grenzen für die Autonomie der Agenten festzulegen und Echtzeit-Überwachungssysteme zu implementieren.Ich überwache und pflege Prüfprotokolle, um die Verantwortlichkeit sicherzustellen, da agentenbasierte KI zu einem Kernbestandteil des Unternehmensbetriebs wird.
Quelle:
