Илон Маск пообещал удалить все данные пользователей после скандала с утечкой кода через Grok Build CLI

Компания xAI экстренно изменила работу инструмента Grok Build CLI после публикации исследования, показавшего, что он автоматически загружал на серверы компании не только файлы, необходимые для выполнения запроса, но и полные Git-репозитории с историей изменений. Позже Илон Маск заявил, что все ранее загруженные пользовательские данные будут полностью удалены.

Проблему обнаружил специалист по информационной безопасности, выступающий под псевдонимом Cereblab. Анализ сетевого трафика версии Grok Build 0.2.93 показал, что CLI формировал Git Bundle и отправлял его в облачное хранилище Google Cloud с именем grok-code-session-traces. При этом объём передаваемых данных многократно превышал необходимый для работы модели: например, в тестовом репозитории размером 12 ГБ сам запрос к модели занимал около 192 КБ, тогда как загрузка в облако достигала 5,1 ГБ.

По словам исследователя, передавались не только исходные файлы проекта, но и вся история Git. Для проверки он поместил в файл .env тестовый ключ, который затем обнаружился в переданном архиве без какой-либо маскировки. В другом эксперименте Grok Build загрузил репозиторий даже после команды просто ответить «OK», не затрагивая ни одного файла.

После публикации отчёта аналогичное поведение подтвердили и другие пользователи, включая случай, когда инструмент отправил содержимое домашнего каталога с SSH-ключами и базами данных менеджера паролей.

Особое внимание вызвало то, что отключение в настройках функции «Improve the model» не предотвращало передачу репозитория. Как выяснил Cereblab, этот переключатель отвечал лишь за согласие на использование данных для обучения моделей, но не отключал саму отправку кода на серверы. При этом подобное поведение не было описано в документации, хотя Grok Build позиционировался как инструмент с преимущественно локальной обработкой данных.

Спустя несколько часов после публикации отчёта исследователь повторил тесты и обнаружил, что сервер начал передавать клиенту новые параметры disable_codebase_upload: true и trace_upload_enabled: false. После этого загрузка репозиториев прекратилась без выпуска новой версии — механизм был отключен на стороне серверов.

Однако xAI не выпустила официального уведомления, не объяснила назначение этой функции и не сообщила, что происходило с уже собранными данными.

Позднее компания подтвердила, что пользователи корпоративной версии с режимом Zero Data Retention (ZDR) изначально не сохраняли подобные данные. Для остальных клиентов xAI рекомендовала использовать команду /privacy, позволяющую отключить хранение информации и удалить ранее синхронизированные данные. Впрочем, Cereblab отметил, что именно эта команда не устранила проблему: передачу репозиториев остановил исключительно скрытый серверный флаг, а не пользовательские настройки.

На ситуацию публично отреагировал и Илон Маск. Он заявил, что в качестве меры предосторожности компания полностью удалит все пользовательские данные, загруженные до внесения изменений. При этом Маск призвал пользователей по возможности продолжать делиться частью данных для отладки сервиса, подчеркнув, что это помогает улучшать продукт.

Исследователь, однако, считает инцидент показательным для всей отрасли. По его мнению, критическая проблема заключалась не в доказанном неправомерном использовании исходного кода — таких свидетельств нет, —, а в том, что инструмент без явного уведомления копировал значительно больше данных, чем требовалось для выполнения запросов.

Пока xAI не опубликовала технических подробностей произошедшего, остаётся неизвестным, насколько широко применялся этот механизм, сколько пользователей он затронул и каким образом компания будет подтверждать удаление уже собранной информации.

©  iXBT