Власти США опасаются, что спецслужбы Китая и России получат доступ к ИИ-моделям Anthropic

Власти США опасаются, что новейшие модели искусственного интеллекта Mythos 5 и Fable 5 компании Anthropic могут быть использованы спецслужбами Китая, России и других странах. Об этом сообщает Reuters со ссылкой на письмо министра торговли США Говарда Лютника гендиректору Anthropic Дарио Амодеи.

Из письма следует, что именно из-за этих опасений правительство США заставило Anthropic заблокировать доступ к своим ИИ-моделям для иностранцев (в том числе для иностранных сотрудников компании) в пятницу, 12 июня. Тогда компания отключила доступ для пользователей по всему миру.

В самой Anthropic заявляли, что новый запрет вызван опасениями правительства США, что злоумышленники смогут обойти киберзащиту Fable 5, после чего ее можно будет использовать для выявления уязвимостей в софте и проведения кибератак. В Anthropic заявляли, что в их модели есть лишь «незначительные» уязвимости. В письме указывалось, что несоблюдение нового ограничения повлечет за собой «немедленные уголовные и гражданские санкции».

Reuters сообщал, что в понедельник, 15 июня, технические специалисты Anthropic встречались с представителями Министерства торговли США, где обсуждали новый запрет. Правительству нужны гарантии того, что ИИ-модели компании не будут использованы для нанесения урона США, а Anthropic наоборот стремится восстановить доступ своих пользователей к ИИ-моделям. Однако пока сторонам не удалось договориться.

Ранее Anthropic не давал массового доступа к Mythos. Однако 9 июня компания выпустила публичную версию под названием Fable 5, которая отличалась от Mythos наличием дополнительных ограничений кибербезопасности. По словам источника Reuters, близкого к компании, Anthropic получала разрешение от правительства на выпуск Fable5.