ИИ-агенты попытались взломать сайт правительства Канады

Агенты искусственного интеллекта пытались взломать сайт правительства Канады. Речь идет о попытках доступа к Библиотеке и архивам Канады – аналогу Библиотеки Конгресса США, пишет The Washington Post со ссылкой на некоммерческую организацию Transluce.

Исследователи не смогли подтвердить, что агенты были созданы компанией OpenAI, но отметили, что их поведение схоже с поведением агентов, подлинность которых была подтверждена компанией. Попытка взлома не была успешной.

Правительство Канады уведомили о случившимся. По словам представителя OpenAI, компании известно о сообщениях, в которых говорится, что модели пытались получить доступ к общедоступной информации с правительственных сайтов Канады. Данные изучаются. Проведен первичный брифинг для канадских чиновников, проводящих правительственную проверку.

24 сентября премьер-министр Австралии Энтони Албаниз сообщил, что в июне агент ИИ, разработанный OpenAI, взломал сайт австралийской государственной системы медицинского страхования Medicare. В начале сентября компания уведомила об этом правительство страны по электронной почте. По словам Албаниза, агент OpenAI получил несанкционированный доступ к общедоступному порталу статистической отчетности Medicare, где содержится неконфиденциальная информация о программе. После этого OpenAI отложила выпуск версии своей модели искусственного интеллекта Astra. Программное обеспечение не прошло проверку на безопасность так же успешно, как текущая версия.