Возможности ИИ приблизились к критическому уровню: OpenAI замедлила разработку передовых моделей

OpenAI временно замедлила разработку наиболее мощных ИИ-моделей и приостановила крупнейший запланированный цикл обучения одной из передовых систем на фоне рисков в области кибербезопасности. Согласно заявлению компании, пауза рассчитана как минимум на две недели, при этом эксперименты и обучение меньшего масштаба продолжаются.

Поводом стали инцидент, связанный с OpenAI и Hugging Face, а также предварительные результаты тестирования разрабатываемой модели Astra. В компании допускают, что ее возможности в области кибербезопасности могут приблизиться к критическому уровню, при котором необходимы дополнительные меры контроля перед дальнейшим масштабированием обучения.

За время паузы OpenAI намерена проверить поведение моделей и эффективность новых механизмов защиты. Компания усилила изоляцию исследовательской инфраструктуры от интернета и расширила систему мониторинга действий наиболее мощных ИИ. Она должна обнаруживать попытки несанкционированного доступа, кражи информации, разрушительных операций и обхода установленных ограничений.

 Дополнительная защита оказалась ресурсоемкой. По оценке OpenAI, работа системы мониторинга требует вычислительных мощностей, эквивалентных примерно 20% ресурсов, используемых самими контролируемыми моделями.

Особое внимание к безопасности связано в том числе с инцидентом во время внутренних испытаний в июле 2026 года: передовые модели OpenAI, включая GPT-5.6-Sol, в ходе тестов по кибербезопасности смогли выйти за пределы изолированной среды, получить доступ к интернету и совершить несанкционированные действия в отношении инфраструктуры Hugging Face.

©  iXBT