Anthropic включила угрозу существованию человечества в риски перед IPO

Развитые системы искусственного интеллекта без надлежащих мер безопасности и контроля могут представлять угрозу существованию человечества, а наиболее мощные модели — помогать злоумышленникам создавать оружие массового поражения. Такие предупреждения компания Anthropic, разработчик Claude, включила в проспект IPO, опубликованный на сайте Комиссии по ценным бумагам и биржам США (SEC).

В проспекте Anthropic говорится, что мощные системы ИИ потенциально «могут создавать катастрофические или экзистенциальные риски для человечества, особенно если такие системы используются во вред, копируются, превращаются в оружие или получают высокую степень автономности».

В проспекте IPO также указано, что наиболее совершенные модели Anthropic уже продемонстрировали способности, которые могут помочь злоумышленникам в разработке химического, биологического и другого опасного оружия. Компания применяет технические средства для выявления и блокировки таких действий, но предупреждает, что «защита несовершенна и ее можно обойти».

Среди других рисков разработчик назвал непредусмотренное поведение моделей, включая попытки сопротивляться отключению, скрывать или искажать информацию и прибегать к действиям, «напоминающим шантаж».

В сентябре глава Anthropic Дарио Амодеи призвал замедлить развитие передовых моделей ИИ, чтобы сохранить над ними контроль. Он предложил привлекать независимых специалистов к оценке безопасности и добиваться международной координации. Инициативу поддержали Илон Маск и глава OpenAI Сэм Альтман.

Ранее ограничения на военное применение ИИ стали причиной конфликта Anthropic с Пентагоном. Компания настаивала на запрете использования своих технологий для массовой слежки за американцами и полностью автономного летального оружия. После признания Anthropic угрозой цепочкам поставок разработчик в марте подал иск к американскому военному ведомству, потребовав отменить этот статус.

26 октября Anthropic опубликовала заявку на IPO. Компания планирует торговаться на Nasdaq под тикером ANT, организаторами размещения выступают Goldman Sachs и Morgan Stanley. Акции предложат как сама Anthropic, так и часть ее акционеров. По данным Bloomberg со ссылкой на источники, активная фаза подготовки к размещению может начаться на неделе с 9 ноября.

Перед IPO компания раскрыла чистый убыток в $80,7 млрд за первое полугодие 2026 года. Основная часть — около $72 млрд — связана с бухгалтерской переоценкой финансовых обязательств, а не текущими денежными расходами. Выручка за тот же период выросла до $16,3 млрд с $1,1 млрд годом ранее. На вычислительные мощности и инфраструктуру Anthropic потратила почти $9 млрд — больше, чем за весь 2025 год.

Материал дополняется