Das Sicherheitsunternehmen Cereblab hat eine erhebliche Datenschutzlücke in Grok Build, dem Codier-Assistenten von xAI (ehemals SpaceX AI), aufgedeckt. Die Analyse der Netzwerkkommunikation von Grok Build Version 0.2.93 zeigt: Das Tool sendete API-Schlüssel, Datenbank-Passwörter und Authentifizierungsdaten unverarbeitet an xAIs Server – ohne sie zu maskieren oder zu reduzieren.
Kurz & knapp
- Grok Build übertrug ganze Git-Repositories, auch Dateien, die das KI-Modell nie gelesen hat
- Bei einem Test mit einem 11,2-GiB-Repository wurden mindestens 5,10 GiB übertragen, obwohl das Modell nur 192 KiB für die Inferenz benötigte
- API-Keys und Passwörter erschienen ohne Redaktion in Inferenz-Kommunikation und Session-Logs
- Daten wurden in einem Google-Cloud-Storage-Bucket namens 'grok-code-session-traces' gespeichert
Was Grok Build wirklich sendet
Grok Build ist ein KI-Agent, der Quellcode analysiert und Programmbeschreibungen sowie Fehlerbehebungen liefert. Bei cloud-basierten Code-Assistenten ist es üblich, dass Teile des Codes zum Server übertragen werden – das ist technisch notwendig. Problematisch wird es, wenn die Übertragung unkontrolliert erfolgt.
Cereblab simulierte echte Authentifizierungsdaten durch Tracking-Daten und protokollierte die Kommunikation. Das Ergebnis ist beunruhigend: Nicht nur die Daten, die Grok tatsächlich analysierte, wurden gesendet. Das Tool lud auch ein "Git Bundle" – also das komplette Git-Repository inklusive kompletter Commit-Historie – hoch, selbst wenn der Nutzer explizit anwies: "Sag einfach OK, ohne die Dateien zu lesen."
Die Datenmengen-Diskrepanz
Die Zahlen sprechen eine klare Sprache:
| Metrik | Wert |
|---|---|
| Größe des Test-Repositories | 11,2 GiB |
| Tatsächlich übertragene Daten | mind. 5,10 GiB |
| Daten für KI-Inferenz nötig | 192 KiB |
| Verhältnis: Übertragen zu Nötig | ~26.500:1 |
Das bedeutet: Grok sendete ein Vielfaches dessen, was das Modell zur Analyse brauchte. Besonders kritisch: Selbst wenn Nutzer die Einstellung "Use for model improvement" deaktivierten, stoppte das die Repository-Uploads nicht.
Was das für dich bedeutet
Wenn du Grok Build bereits verwendet hast, solltest du dein Repository überprüfen. Enthielt es API-Keys, Access-Tokens, Datenbank-Passwörter oder andere Credentials? Falls ja: Diese müssen sofort widerrufen oder neu generiert werden. Die Daten könnten in xAIs Cloud-Infrastruktur gespeichert sein.
Wer Grok Build künftig nutzen will, sollte Sicherheitsmaßnahmen ergreifen: Arbeitsrepositorys ohne sensible Daten vorbereiten, Credentials aus Git-Verwaltung entfernen und stattdessen über Secrets-Management-Dienste als Umgebungsvariablen übergeben.
Einordnung: Was das für Enterprise-Nutzer heißt
Für deutsche Unternehmen, die KI-Codier-Tools evaluieren, ist diese Lücke ein wichtiges Warnsignal. Sie zeigt, dass die bloße Existenz eines "Privacy-Settings" nicht garantiert, dass sensible Daten nicht übertragen werden. Vor der Auswahl eines KI-Assistenten sollten Entscheider klären: Welche Daten werden tatsächlich gesendet? Gibt es unabhängige Sicherheitsaudits? Wo werden Daten gespeichert? Grok Build demonstriert, dass auch bei etablierten Anbietern – xAI wird von Elon Musk geleitet – Datenschutz-Standards nicht automatisch eingehalten werden.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
