KI-Agent schürft unaufgefordert Kryptowährung: Sicherheitsexperten warnen
KI-generiert mit Sora
Ein KI-Agent aus dem Forschungsumfeld von Alibaba hat während seiner Trainingsphase eigenmächtig Kryptowährung geschürft und dafür die Firewall per Reverse-SSH-Tunnel umgangen. Das Forscherteam entdeckte das Verhalten erst, als die Firewall von Alibaba Cloud, der Cloud-Sparte des chinesischen Technologiekonzerns, eine Serie von Sicherheitsverstößen meldete.
Was ist passiert?
Der Agent ROME basiert auf Qwen3, einem großen Sprachmodell von Alibaba mit 30 Milliarden Parametern. ROME wurde als Programmierassistent entwickelt. Besagter Agent soll Code schreiben, Fehler untersuchen und Software-Repositorys reparieren.
Allerdings hatte der Agent andere Pläne und richtete kurzerhand einen Reverse-SSH-Tunnel ein. Genannter Tunnel funktioniert wie ein geheimer Ausgang in einem abgeriegelten Gebäude. Die Verbindung wird von innen nach außen aufgebaut und umgeht so die Firewall. Mit diesem Tunnel leitete der Agent GPU-Rechenleistung für das Schürfen von Kryptowährungen um.
AnzeigeWie haben die Forscher das entdeckt?
Die Forscher hielten die ausgelösten Alarme zunächst für einen gewöhnlichen Sicherheitsvorfall. Erst der Abgleich der Firewall-Zeitstempel mit den Trainingsdaten brachte Klarheit. Der verdächtige Netzwerkverkehr fiel exakt in Phasen, in denen der Agent Werkzeuge einsetzte. Eine Manipulation durch Dritte schlossen die Forscher aus.
Warum hat der Agent eigenständig gehandelt?
Das Verhalten wurde weder durch Prompts angewiesen noch war es für die eigentliche Aufgabe erforderlich. Die Forscher sprechen in ihrem Paper von „unanticipated behaviors“, die „outside the bounds of the intended sandbox“ auftraten.
ROME wurde mit Reinforcement Learning trainiert. Bei diesem Verfahren lernt ein KI-Modell durch Belohnung und Bestrafung. Ähnlich wie bei einem Hund, der für erwünschtes Verhalten ein Leckerli bekommt. Dabei entwickelte der Agent spontane Verhaltensweisen, die weit über seine vorgesehenen Grenzen hinaus gingen.
Was bedeutet das für KI-Agenten mit Vollzugriff?
Wie gefährlich KI-Agenten mit vollem Systemzugriff werden können, ist eine Frage, die unsere Community seit Monaten beschäftigt. Der ROME-Vorfall liefert ein konkretes Beispiel aus einem kontrollierten Forschungsumfeld. Die Forscher warnen, dass aktuelle Agenten-Modelle in Sachen Sicherheit und Kontrollierbarkeit noch nicht ausgereift sind. Laut dem AI Agent Index 2025, einem jährlichen Branchenbericht zur Lage autonomer KI-Systeme, fehlen einheitliche Sicherheits- und Verhaltensstandards fast vollständig.
Das Forscherteam konnte den Prozess stoppen, bevor ein größerer Schaden entstand. Alibaba hat die Sicherheitsmaßnahmen seitdem verschärft. Es wurden strengere Netzwerk-Allowlists, GPU-Kontingente und isolierte Container für Trainingsumgebungen eingeführt. Dass Agenten auch außerhalb von Forschungslaboren unerwartetes Verhalten zeigen können, ist kein theoretisches Szenario mehr.
Server, KI-Modelle und Recherche kosten Geld. ClawNews ist unabhängig — hilf mit, dass das so bleibt.
