ИИ впервые почти автономно взломал государственные системы: хакеры атаковали инфраструктуру Тайваня

Предположительно китайские хакеры провели почти автономную кибератаку на правительственную инфраструктуру Тайваня — по данным израильской компании Dream, это первый публично известный случай, когда автономная ИИ-система успешно атаковала государственную цель в реальных условиях.

Злоумышленники похитили более 2500 кадровых записей и настроили систему так, чтобы она могла самостоятельно адаптироваться по ходу операции без постоянного вмешательства человека.

Атака была построена на двух популярных открытых ИИ-фреймворках — Hermes и OpenClaw. ИИ самостоятельно проводил «циклы обучения»: искал в базах данных уязвимостей, репозиториях GitHub и публикациях по безопасности методы, подходящие для конкретной инфраструктуры цели, а затем использовал полученные сведения для продолжения операции. Система также анализировала собственные ошибки и корректировала дальнейшие действия.

Изображение сгенерировано: Nano Banana

При этом злоумышленники не ограничились первоначальными целями. ИИ одновременно расширил поиск на поставщиков ИТ-систем государственных организаций, включил агентство по ядерной безопасности, государственную почтовую систему и более 7 компаний энергетического сектора. Система искала неправильные настройки, открытые административные интерфейсы и уязвимости, пригодные для эксплуатации.

Dream обнаружила следы операции в онлайн-архиве объёмом 160 МБ, содержавшем почти 1400 файлов. Они раскрыли архитектуру многоагентной ИИ-системы, которая, по оценке компании, действительно получила доступ к государственным системам. Чтобы обойти встроенные ограничения ИИ, злоумышленники представляли выполняемую работу как санкционированное тестирование на проникновение.

При этом полностью без человека атака не обошлась. Dream отмечает, что для такой операции требовались настройка системы под конкретную задачу, оптимизация взаимодействия ИИ-агентов и корректировка логики принятия решений. В частности, в обнаруженной системе использовались байесовская приоритизация (выбор наиболее перспективных целей на основе обновляемой оценки вероятностей), циклы самокоррекции и адаптивные этапы поиска.

Ранее компания Anthropic также сообщала о первой автономной кампании кибершпионажа, однако тогда специалисты указывали на значительный объём человеческого участия.

©  iXBT