Fujitsu: Die neue Multi-AI Agent Security Technology soll KI-Systeme schützen

Die neue Multi-AI Agent Security Technology von Fujitsu ist ein innovatives System, das verschiedene KI-Agenten koordiniert, um proaktive Sicherheitsmaßnahmen gegen Cyberangriffe zu entwickeln und umzusetzen. Die Technologie ist ein Kernbestandteil des KI-Services Fujitsu Kozuchi. Das Ziel der Multi-AI Agent Security Technology ist es, Unternehmen und öffentliche Organisationen in die Lage zu versetzen, sich besser vor neuen Bedrohungen und Schwachstellen zu schützen. Die Technologie simuliert Cyberangriffe, Schutzstrategien und Maßnahmen zur Geschäftskontinuität, um proaktive Sicherheitsmaßnahmen zu ermöglichen.

Fujitsu Kozuchi umfasst verschiedene KI-Technologien, die von Fujitsu entwickelt wurden. Der Name leitet sich vom japanischen Wort „Uchide No Kozuchi“ ab, was so viel wie „magischer Hammer“ bedeutet, der Wünsche erfüllen kann. Fujitsu Kozuchi bietet sichere, zuverlässige und cloudbasierte KI-Dienste, die die Produktivität und Kreativität von Geschäftsabläufen steigern. Es umfasst sieben verschiedene Bereiche der KI. Dazu gehören generative KI, AutoML, Predictive Analytics, Textanalyse, Bildanalyse, AI Trust und XAI.

Die Komponenten der Multi-AI Agent Security Technology

Die Multi-AI Agent Security Technology besteht aus drei Hauptkomponenten: Security AI Agent, Multi-AI Agent Collaboration und Generative AI Security Enhancement.

Security AI Agent

Der Security AI Agent ist das Herzstück der Technologie und umfasst drei spezialisierte KI-Agenten. Der Attack AI Agent verwendet eine TTP Analogy Engine, um effektive Angriffsszenarien gegen Zielsysteme zu entwickeln und so neue Bedrohungen zu identifizieren.

Der Defense AI Agent schlägt auf Grundlage des Risikoprofils des Unternehmens geeignete Gegenmaßnahmen vor. Der Test AI Agent erstellt automatisch eine virtuelle Testumgebung, einen sogenannten Cyber-Zwilling des Produktionssystems. In dieser sicheren Umgebung kann er die Auswirkungen der vorgeschlagenen Gegenmaßnahmen analysieren.

Die drei Agenten arbeiten zusammen und führen wechselseitige Angriffs- und Schutzsimulationen durch, wodurch ein proaktiver Schutz gegen neue Schwachstellen ermöglicht wird. Durch kollaboratives Lernen zwischen diesen diversen KI-Agenten können komplexe Probleme gelöst werden. Die Entwicklung dieser Agents wurde in Zusammenarbeit mit der Ben-Gurion-Universität vorangetrieben, die weltweit führend im Bereich der Cybersicherheitsforschung ist.

Multi-AI Agent Collaboration

Die Multi-AI Agent Collaboration-Technology ermöglicht eine nahtlose Zusammenarbeit zwischen den verschiedenen KI-Agenten. Sie ist vielseitig einsetzbar und nicht nur auf Sicherheitsanwendungen beschränkt. Da beim Datenaustausch zwischen den Agenten Fragen des Datenschutzes und der Vertraulichkeit relevant sind, hat Fujitsu eine sichere Agent Gateway-Koordinationsfunktion in der KI-Agenteninfrastruktur jeder Organisation implementiert. Diese Funktion ermöglicht die autonome Steuerung der Richtlinien für die Kooperation, so dass eine reibungslose Zusammenarbeit ohne explizite Anweisung der Entwickler möglich ist. Fujitsu plant, diese Technologie ab Januar 2025 als Open-Source-Software auf der OpenHands-Plattform anzubieten.

Generative AI Security Enhancement

Die Generative AI Security Enhancement Technology wurde entwickelt, um aufkommende Bedrohungen für generative KI zu adressieren. Es wurde ein LLM-Schwachstellenscanner entwickelt, der automatisch und umfassend die Sicherheitsresistenz prüft und LLM-Leitplanken etabliert, um vor Angriffen zu schützen. Der LLM-Schwachstellenscanner deckt über 3.500 der neuesten Schwachstellen in generativer KI ab und beinhaltet eine Funktion zur Prüfung proprietärer generativer Code-Schwachstellen.

Durch adaptive Prompting-Technologie kann der optimale Angriffsprompt basierend auf der Antwort des LLM ausgewählt werden, was eine hochgenaue Angriffsbewertung ermöglicht. Darüber hinaus erleichtert die Technologie zur Erklärung von Schwachstellen durch generative KI die Bewertung auch für Nicht-Sicherheitsexperten.

Die LLM-Leitplanken arbeiten mit dem LLM-Schwachstellenscanner zusammen, um einen sicheren Betrieb zu gewährleisten, indem sie automatisch Schutzregeln anwenden, die bösartige Prompts erkennen und ablehnen. Diese Schutzregeln verhindern unsachgemäße Antworten. Die LLM-Leitplanken und der Schwachstellenscanner interagieren mit dem Attack- und Defense AI Agenten, um proaktive Sicherheitsmaßnahmen zu ermöglichen.

Pläne zur Weiterentwicklung

Fujitsu plant, die Fähigkeiten seiner KI-Agenten zu erweitern, um zusätzliche Sicherheitsaufgaben zu automatisieren, darunter sicheres Design, Reaktion auf Vorfälle und Sicherheitsaudits. Darüber hinaus wird Fujitsu seine Technologie zur Verbesserung der Sicherheit generativer KI weiterentwickeln, um die Abdeckung zu erweitern, insbesondere, um Schwachstellen und Halluzinationen im Zusammenhang mit Retrieval Augmented Generation (RAG)-Anwendungen zu adressieren. Damit will Fujitsu eine noch höhere Sicherheit und Zuverlässigkeit für den Einsatz generativer KI gewährleisten.