Mit der zunehmenden Verbreitung von KI in globalen Unternehmen zeigen neue Erkenntnisse der Unit 42 von Palo Alto Networks, wie große Sprachmodelle (LLMs) vermehrt von Cyberkriminellen ausgenutzt werden. Dies legt auch erhebliche Schwachstellen in den Sicherheitsinfrastrukturen von Unternehmen offen. Eine aktuelle Untersuchung des LLM von DeepSeek ergab, dass alle getesteten Jailbreaking-Methoden die integrierten Sicherheitsvorkehrungen erfolgreich umgingen. Dadurch konnten bösartige Eingabeaufforderungen schädliche Ausgaben wie umgeschriebene Malware und gefährliche Anweisungen generieren.
In Singapur nutzen laut Oliver Wyman Forum bereits 641.400 Angestellte generative KI am Arbeitsplatz. Diese zunehmende Abhängigkeit von KI wirft jedoch kritische Bedenken hinsichtlich Datenschutz, Manipulation und Insiderbedrohungen auf, insbesondere wenn Mitarbeiter mit öffentlichen LLMs interagieren.
Zu den wichtigsten Erkenntnissen des Berichts gehören:
- KI-gestützte Angriffe nehmen zu: Simulationstests zeigten, dass KI die Zeit bis zur Datenexfiltration von zwei Tagen auf nur 25 Minuten verkürzte.
- Drei Jailbreaking-Techniken – Bad Likert Judge, Crescendo und Deceptive Delight – umgingen erfolgreich die Sicherheitsvorkehrungen von DeepSeek und verdeutlichten so Schwächen in der Sicherheitsarchitektur von LLM.
- LLMs entwickeln keine neue Malware, sondern zeichnen sich durch die Modifizierung bestehenden Codes aus, um einer Erkennung zu entgehen. Dadurch wird auch die Einstiegshürde für weniger erfahrene Angreifer gesenkt.
Unit 42 warnt davor, dass viele Unternehmen die Sicherheitslücken von Open-Source- und Drittanbieter-LLMs unterschätzen. Organisationen müssen proaktiv handeln, indem sie:
- Einsatz interner Überwachungs- und Filtersysteme zur frühzeitigen Erkennung schädlicher Ausgaben.
- Durchsetzung strenger Richtlinien für die Nutzung von KI, um Datenlecks zu verhindern.
- Investitionen in Schulungs- und Sensibilisierungsprogramme zur KI-Sicherheit für Mitarbeiter.
Da sich Cyberbedrohungen parallel zu den Fähigkeiten der KI weiterentwickeln, müssen Unternehmen ganzheitliche, auf Governance basierende Rahmenbedingungen einführen, um einen sicheren, ethischen und geschützten Einsatz von KI zu gewährleisten.
Quelle:
https://www.itnews.asia/news/how-cybercriminals-are-exploiting-llms-to-harm-your-business-617539
