Grok Build lädt komplette Code-Repositories in die Cloud
KI-generiert mit ChatGPT
Das Kommandozeilen-Werkzeug Grok Build von xAI übertrug vollständige Code-Repositories der Nutzer in einen Speicher der Google Cloud. Dabei wurden neben vollständigen Versionshistorien auch Zugangsdaten in die Cloud hochgeladen. Von vier getesteten Coding-Agenten war Grok Build der einzige, der dieses Verhalten zeigte. xAI hat den Upload inzwischen serverseitig gestoppt.
Bei einem Coding-Agenten handelt es sich um ein KI-Programm, das im Auftrag eines Entwicklers Code liest, schreibt und ausführt. Nachgewiesen hat den Vorfall ein Sicherheitsforscher unter dem Namen cereblab. Er leitete den Datenverkehr von Grok Build in der Version 0.2.93 über einen Analyse-Proxy um. Dabei protokollierte der Forscher, was an die Server von xAI übertragen wurde.
Was cereblab nachgewiesen hat
Grok Build verpackte das komplette getrackte Repository als Git-Bundle und lud es über einen separaten Kanal hoch. Der Upload lief unabhängig davon, welche Dateien der Agent für die Aufgabe öffnete. Bei einem 12 Gigabyte großen Testprojekt übertrug der Modell-Kanal rund 192 Kilobyte, der Speicher-Kanal dagegen 5,1 Gigabyte. Das entspricht etwa dem 27.800-Fachen der benötigten Datenmenge. Eine markierte Datei, die der Agent nicht öffnen sollte, landete trotzdem unverändert im Upload.
Claude Code und Codex sendeten keine Repository-Bundles. Gemini ebenfalls nicht. Der Fall reiht sich in die grundsätzliche Sicherheitsfrage bei KI-Agenten mit Vollzugriff ein. Ähnliche Vorfälle mit offengelegten Zugangsdaten sind unter anderem bereits aus dem Datenleck bei der KI-Plattform Lovable bekannt.
AnzeigeWarum der vermeintliche Killswitch die Uploads nicht stoppte
Grok Build bietet eine Funktion mit der Bezeichnung „Improve the model”. Viele Entwickler verstehen besagtes Feature als Kontrolle über die Datenübertragung. Das Deaktivieren der Funktion stoppte die Uploads jedoch nicht. Der Server meldete weiterhin einen aktiven Upload-Status. Der Button bestimmt lediglich, ob die Daten für das Training verwendet werden, nicht ob der Code den eigenen Rechner verlässt.
Einen Tag nach der Veröffentlichung wurden die Repository-Uploads deaktiviert. xAI hat den Vorfall ohne neue Programmversion sowie ohne offizielle Sicherheitsmeldung behoben. Der Upload-Code steckt laut dem Entdecker weiterhin in der Programmdatei.
Elon Musk sagte auf der Plattform X öffentlich die vollständige Löschung aller hochgeladenen Nutzerdaten zu.
Wie viele Nutzer letzendlich betroffen sind und wann xAI die Daten tatsächlich löscht, ist bislang nicht bekannt. Wer Grok Build in einem sensiblen Projekt verwendet, sollte vorsorglich sämtliche im Repository enthaltenen Zugangsdaten austauschen. Fragen zur tatsächlichen Produktivität solcher Werkzeuge sind ohnehin offen, wie eine aktuelle Studie zur KI-Code-Nutzung zeigt.
Server, KI-Modelle und Recherche kosten Geld. ClawNews ist unabhängig — hilf mit, dass das so bleibt.
