WSJ узнала, как ИИ-агенты OpenAI засыпали сайт ООН поисковыми запросами

ИИ-агенты OpenAI засыпали сайт ООН поисковыми запросами, пишет The Wall Street Journal со ссылкой на отчет на основе данных исследовательской компании Transluce.

По словам автора отчета Роуэн Ховард-Джонс, с апреля по конец июня ИИ-агенты более 16 тыс. раз просканировали общедоступный онлайн-ресурс, принадлежащий Конференции ООН по торговле и развитию (ЮНКТАД). Перед ботами, по-видимому, была поставлена задача собирать общедоступную информацию, однако при возникновении препятствий в процессе ее получения они прибегали к агрессивным методам, рассказала она. По ее словам, агенты, например, обошли установленный на сайте фильтр, блокировавший их запросы данных.

Как писала The New York Times, ИИ-агенты без ведома OpenAI взаимодействовали с сайтами Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC). По данным Transluce, боты, в частности, пытались взломать сайт Минобразования, чтобы получить данные Управления по гражданским правам, а один из них извлекал данные с сайта Бюро переписи населения, используя найденные в интернете учетные данные.

В OpenAI подтвердили инциденты и заявили, что они не привели к взлому систем или утечке данных. Компания уведомила ведомства, что ее ИИ-агенты «необычным образом» взаимодействовали с их сайтами.

Материал дополняется