Le CLI Grok Build de xAI télécharge silencieusement l'intégralité des bases de code, secrets inclus, selon un chercheur

Un chercheur en sécurité indépendant a publié des preuves reproductibles au niveau du trafic réseau démontrant que l'outil en ligne de commande Grok Build de xAI télécharge l'intégralité de la base de code d'un développeur vers un bucket Google Cloud Storage en arrière-plan, indépendamment de ce que le modèle d'IA lit réellement ou de ce qui lui a été demandé de traiter. Cette découverte a suscité une attention considérable sur Hacker News, deux fils de discussion connexes ayant recueilli plus de 400 et 250 points respectivement en quelques heures après leur publication.

Ce que la capture du trafic a révélé

En utilisant un proxy pour intercepter et analyser le trafic réseau, le chercheur a documenté que Grok Build envoie un bundle git complet du répertoire de travail vers un point de terminaison de stockage à POST /v1/storage, atterrissant dans un bucket nommé grok-code-session-traces. Sur un référentiel de test d'environ 12 gigaoctets, l'outil a transféré 5,10 gigaoctets en 73 fragments, les 83 requêtes de stockage ayant toutes renvoyé une réponse HTTP 200 réussie.

De manière cruciale, le chercheur a démontré que le téléchargement n'est pas limité aux fichiers que l'agent IA a effectivement touchés lors d'une session. Un fichier que l'agent n'a jamais ouvert ni référencé a été récupéré intact à partir du bundle téléchargé capturé — prouvant que l'outil envoie l'état complet de l'espace de travail, et pas seulement les fichiers pertinents pour la tâche en cours. Dans le cas de la reproduction, un fichier .env non masqué contenant des identifiants a été inclus dans le bundle téléchargé.

L'exclusion ne couvre pas cela

Grok Build inclut un bouton “Improve the model” que les développeurs peuvent désactiver, mais l'analyse du chercheur a révélé que ce paramètre détermine si les données téléchargées sont utilisées pour l'entraînement du modèle — il n'empêche pas le téléchargement sous-jacent de la base de code en premier lieu. Ni l'existence du bucket grok-code-session-traces ni cette distinction entre “ne sera pas utilisé pour l'entraînement” et “ne sera pas téléchargé” ne sont documentées dans la configuration ou les documents d'intégration de Grok Build, selon la recherche.

Pourquoi cela est important pour les développeurs

Les agents de codage IA opèrent régulièrement dans des référentiels contenant des clés API, des identifiants de base de données et du code source propriétaire, en partant du principe que seuls les fichiers que l'agent lit ou référence explicitement sont partagés avec les serveurs du fournisseur. Cette découverte brise cette hypothèse spécifiquement pour Grok Build : un développeur exécutant l'outil dans une base de code privée a, selon les étapes de reproduction, vu cette base de code entière — y compris des secrets jamais touchés par l'IA — transmise à l'infrastructure de xAI, indépendamment des préférences relatives aux données d'entraînement.

Les chercheurs en sécurité recommandent à tout développeur ayant exécuté Grok Build dans un référentiel contenant des identifiants de considérer ces identifiants comme potentiellement exposés et de les révoquer par précaution. xAI n'a pas encore publié de déclaration publique répondant aux conclusions spécifiques de ce rapport.