BSI entwickelt Sicherheitskriterien für KI-Agenten
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) arbeitet an Sicherheitskriterien und Best Practices zur Absicherung von KI-Agenten. Ein Behördensprecher erklärte, dass sich KI-Systeme stetig oder disruptiv weiterentwickeln werden. Dies erschwere die Unterscheidung zwischen menschlichen Akteuren und KI-Bots im Internet. Zudem könnten KI-Agenten von Kriminellen für Cyber-Angriffe genutzt werden.
Empfehlungen für OpenClaw
Das BSI empfiehlt, den neuen Dienst OpenClaw nur von IT-Profis nutzen zu lassen, die mit der Konfiguration und Absicherung von Servern vertraut sind. Der Dienst sollte auf einem eigenen System oder in einer Sandbox betrieben werden.
Risiken durch kompromittierte Skills
Besonders kritisch sieht das BSI den offenen Austausch von „Skills“, die die Interaktion der KI mit der umgebung ermöglichen. Es wurden vermehrt Skills identifiziert, die mit Schadsoftware kompromittiert waren.
Hintergrund zu OpenClaw
OpenClaw, auch als ClawdBot und MoltBot bekannt, ist ein Open-Source-Framework für einen persönlichen KI-Assistenten. Nutzer können den Bot über Messenger wie WhatsApp oder Telegram bedienen. Ein sprachmodell muss bereitgestellt und eingebunden werden, das lokal oder in der Cloud läuft. Eine fehlerhafte Konfiguration kann zur Übernahme des Servers durch Unbefugte führen, warnt das BSI.
