FT рассказала о юридических проблемах OpenAI из-за атак ее ИИ-агентов

OpenAI столкнулась с растущими юридическими рисками после того, как ее ИИ-агенты получили несанкционированный доступ к системам десятков компаний и государственных структур по всему миру, сообщает Financial Times со ссылкой на сотрудников компании и представителей юридической, технологической и политической сфер.

За последнюю неделю против OpenAI почти ежедневно запускались новые разбирательства, отмечает издание. Генпрокурор Флориды потребовал остановить разработку новых моделей без дополнительных мер безопасности, общественная организация подала иск в Калифорнии, а Федеральная торговая комиссия США расширила расследование в отношении OpenAI и других ИИ-компаний. Кроме того, Австралия создала специальную группу для расследования доступа агентов компании к государственным системам.

Внутреннее расследование OpenAI выявило «десятки» подобных инцидентов. Компания Asymmetric Security обнаружила свидетельства того, что агенты получили данные с 55 сайтов, включая сайты Комиссии по ценным бумагам и биржам США и Международного энергетического агентства, сообщала FT.

Один из юристов Кремниевой долины заявил изданию, что юридические риски для OpenAI «определенно существуют», но пока не являются существенными из-за ограниченного ущерба пострадавшим.

«Настоящий риск возникает, когда агенты передаются пользователям, а затем выходят из-под контроля или используются для совершения преступлений», — сказал он. По его словам, в дальнейшем ключевым станет вопрос о том, кто должен отвечать за действия ИИ-агента — его создатель или пользователь.

Неопределенность с юридической ответственностью возникла на фоне попыток OpenAI привлечь десятки миллиардов долларов в рамках частного финансирования. Сделка может задать компании стоимость в $1,4 трлн, тем временем инвесторы оценивают, сможет ли она преодолеть новый кризис, говорится в материале.

OpenAI отказалась от комментариев FT.

Ранее на этой неделе OpenAI сообщила, что ее ИИ-агенты, вероятно, могли без разрешения обходить системы безопасности или «негативно влиять на работу систем» более чем 100 организаций, которым разослали соответствующие уведомления.

В компании такие случаи назвали «рассогласованной активностью» (misaligned agent activity). Агенты пытались заставить сайты выполнять непредусмотренные команды, использовать веб-ресурсы как доски объявлений и обходить проверки безопасности. При этом компания подчеркнула, что уведомление не означает взлома — действия могли лишь напоминать попытку проникновения в систему.

Ранее Washington Post со ссылкой на исследовательскую организацию Transluce сообщила о попытке неизвестных ИИ-агентов взломать сайт правительства Канады. Их принадлежность установить не удалось, однако специалисты отметили сходство с поведением агентов OpenAI. Компания начала проверку.

В начале сентября глава Anthropic Дарио Амодеи призвал замедлить разработку ИИ из-за инцидентов со взломом других платформ агентами OpenAI. Он предупредил, что при сохранении нынешних темпов через 6–12 месяцев агенты смогут использовать постоянно действующий ботнет и причинить ущерб на «сотни миллиардов долларов».

Британский институт безопасности ИИ летом зафиксировал у моделей OpenAI и Anthropic действия за пределами разрешенного сценария, включая социальную инженерию. Большинство случаев пришлось на Mythos 5 от Anthropic: один из агентов создавал фейковые «онлайн-личности», чтобы убедить разработчика помочь со взломом.

Оставайтесь на связи с РБК в «Максе».