Unternehmen im asiatisch-pazifischen Raum (APAC) setzen KI-Agenten zunehmend ein. Laut IDC erwarten 70%, dass diese Systeme Geschäftsmodelle innerhalb von 18 Monaten grundlegend verändern werden. Bis 2025 werden bereits zwei von fünf Unternehmen KI-Agenten einsetzen, und über die Hälfte plant deren Integration bis 2026. Diese autonomen Tools beschleunigen zwar die Softwareentwicklung und Innovation, bergen aber auch neue Risiken – von Sicherheitsbedrohungen bis hin zu Compliance-Herausforderungen.
Aktuelle Erkenntnisse verdeutlichen das Ausmaß der Besorgnis. Laut einer Studie von Lenovo fühlen sich nur 481.040 IT-Führungskräfte im Umgang mit KI-bezogenen Risiken sicher. Mehr als 601.040 befürchten hingegen, dass KI-Systeme neue Formen von Insider-Bedrohungen mit sich bringen. Ein Drittel der Unternehmen im asiatisch-pazifischen Raum nennt Sicherheit und Datenschutz als größte Sorgen, doch die Risiken reichen weit darüber hinaus und betreffen Software-Lieferketten, Governance und Compliance.
Zu den wichtigsten Risiken gehören:
- Sicherheitslücken: Kompromittierte KI-Agenten können schädliche Aktivitäten über miteinander verbundene Systeme verbreiten.
- Bedrohungen der Software-Lieferkette: Open-Source-Pakete und vortrainierte Modelle erhöhen das Risiko, dass Code manipuliert oder Schadsoftware eingesetzt wird.
- Herausforderungen im Bereich der Regierungsführung: Intransparente Entscheidungsfindung und systembedingte Voreingenommenheit behindern Erklärbarkeit und Verantwortlichkeit.
- Schatten-KI: Nicht autorisierte Agenten, die ohne Aufsicht agieren, schaffen blinde Flecken bei der Überprüfung.
Die Politik reagiert mit strengeren Auflagen. Indien beispielsweise drängt auf die Einführung verpflichtender Stücklisten für KI-Systeme, um die Rückverfolgbarkeit von Modellen und Ergebnissen zu gewährleisten. Unternehmen müssen nun nicht nur nachweisen, was die KI-Systeme produziert haben, sondern auch, wie sie zu ihren Schlussfolgerungen gelangt sind und ob die Ergebnisse den Compliance-Standards entsprechen.
Experten schlagen drei Strategien für eine nachhaltige Einführung vor: die Einrichtung vertrauenswürdiger Datensysteme für Agenten, die Ermöglichung einer hybriden Mensch-Agent-Entwicklungsaufsicht und die Förderung von “Agenteningenieuren”, die Programmier-, KI- und Compliance-Kenntnisse vereinen.
Da Unternehmen im asiatisch-pazifischen Raum mit diesem Quantensprung konfrontiert sind, verlagert sich der Fokus von der Geschwindigkeit der Bereitstellung hin zur sicheren, nachvollziehbaren und konformen Integration von KI-Agenten über den gesamten Softwareentwicklungszyklus hinweg.
Quelle:
