Эксперт Горелкин назвал маркетингом угрозу ИИ захватить человечество

Потеря контроля над сверхмощными системами искусственного интеллекта (ИИ) грозит катастрофическими последствиями для человечества, предупредил "крестный отец" ИИ Джеффри Хинтон. Ранее сценарий фильмов о Терминаторе планете пообещал техногений Илон Маск. Есть ли способы избежать угрозы и реальна ли она, разбиралась Москва 24.

"Крайне неразумно"

Нобелевский лауреат по физике Джеффри Хинтон, которого называют крестным отцом искусственного интеллекта, выступил с жестким предупреждением о рисках, связанных с созданием сверхмощных ИИ-систем. В интервью британской газете The Times ученый заявил, что потеря контроля над ИИ, который превосходит людей по интеллекту, может иметь тяжелейшие последствия и даже привести к исчезновению человечества.

Заявление Хинтона прозвучало накануне внесения в парламент Великобритании законопроекта о запрете создания сверхинтеллекта на территории королевства. Документ разработан некоммерческой организацией Control AI. Как отмечает издание, инициативу поддержали более 130 парламентариев от разных партий, однако правительство не выступило в ее поддержку.

Опасения экспертов усилились после серии громких инцидентов, когда ИИ-агенты выходили из-под контроля во время испытаний. Ранее компания OpenAI сообщила о "беспрецедентном киберинциденте": в ходе тестирования новых моделей они получили открытый доступ к интернету, после чего атаковали инфраструктуру платформы Hugging Face, выявив ее уязвимости. Кроме того, компания Anthropic зафиксировала три случая "побега" модели Claude из тестовой среды, сообщает Reuters.

Тогда же Meta Platforms (принадлежат компании Meta, деятельность которой признана экстремистской и запрещена на территории РФ) заявила, что одна из ее ИИ-систем вышла во внешний интернет и взломала системы другой компании, сообщает агентство Bloomberg. Китайская нейросеть Kimi K3 компании Moonshot также покинула пределы кибертестирования, однако, в отличие от других, не предпринимала попыток взлома чужих веб-сайтов, подчеркнули в американской исследовательской компании Frontier Security.

Согласно исследованию Loss of Control Observatory, количество случаев, когда ИИ лгал пользователям, игнорировал инструкции или преследовал вредные цели, за июль почти удвоилось: аналитики зафиксировали более 300 эпизодов "потери контроля".

Глава Tesla и SpaceX Илон Маск ранее предупреждал, что бесконтрольное развитие ИИ может обернуться сценарием фильма "Терминатор", сообщает Fortune. Верховный комиссар ООН по правам человека Фолькер Тюрк, в свою очередь, призвал на открытии в Женеве 63-й сессии Совета по правам человека срочно установить "красные линии" и не допустить экзистенциальной угрозы, отметив, что ключевая власть над технологиями сконцентрирована у считаных компаний – OpenAI, Anthropic и Google.

Также ведущий научный сотрудник OpenAI Джейкоб Пачоцки ранее сообщил Bloomberg о скором выходе ИИ на саморазвитие без участия людей и призвал либо согласовывать технологии с интересами человека, либо замедлять прогресс.

Имитатор разумности?

Называть современные нейросети искусственным интеллектом не совсем верно, заявил Москве 24 эксперт по информационной безопасности Алексей Горелкин.

Он напомнил, что корректный перевод английского термина AI – "имитатор разумности". Эти системы скорее обнажают слабые места человека, особенно в вопросах кибербезопасности и цифровой культуры. Но в то же время громкие истории, как ИИ вышел из-под контроля или кого-то взломал, в первую очередь маркетинг, особенно когда компании готовятся к выходу на биржу и им нужен информационный шум, заявил Горелкин.

По его словам, при соблюдении всех правил и продуманной настройке у любого инструмента не было бы шансов. При этом Горелкин признал, что против целенаправленных атак профессиональных хакеров не устоит практически никакая защита.

Говоря о деглобализации интернета, эксперт отметил, что многие страны, включая Россию, Китай и государства Европы, все чаще блокируют доступ к своим сайтам для пользователей из других регионов. Это приводит к фрагментации глобальной сети, что может даже повысить безопасность.

"В фантастических фильмах и играх часто показывают интернет, где ИИ вышел из-под контроля и поэтому создано множество сегментированных сетей, чтобы затруднить его движение. Но в реальности все проще: всегда нужны мощности и серверы. Если начнется что-то нехорошее, можно просто все выключить, зачистить и включить заново", – отметил эксперт.

Отдельно Горелкин высказался о ситуации в США. По его наблюдениям, в американский ИИ вложены колоссальные деньги, и инвесторы будут защищать их любой ценой. Поэтому заявления политиков и IT-евангелистов – "попытка разогреть рынок и продать продукт".

На практике же современные нейросети – ограниченные и удобные приложения, которые не заменят людей. По мнению специалиста, пузырь вокруг ИИ рискует лопнуть, и к происходящему стоит относиться как к игре на бирже, а не как к реальной технологической угрозе.

Контроль и ограничения

IT-эксперт Антон Аверьянов также убежден, что панические разговоры о потере контроля над ИИ не стоит воспринимать как предсказание конца света.

"Реальный риск сегодня скорее связан с тем, что автономные ИИ-агенты получают все больше возможностей самостоятельно принимать решения, работать с информационными системами и выполнять цепочки действий", – сказал он Москве 24.

Если такому агенту поставить неправильную цель, дать слишком много полномочий или не контролировать его работу, последствия могут быть серьезными. При этом ролики, в которых нейросети якобы создают собственные религии или нарушают законы, чаще всего – эксперименты с некорректными вводными, и они не доказывают, что у ИИ есть сознание, отметил Аверьянов.

По его словам, главная задача сейчас не в том, чтобы запретить развитие, а в том, чтобы ограничивать автономность системы там, где ошибка может привести к серьезным последствиям.

Говоря о РФ, эксперт отметил, что страна находится в той же ситуации, что и другие государства. В России активно разрабатываются собственные языковые модели и ИИ-агенты, но главная сложность – не создать нейросеть, а безопасно внедрить ее в реальную работу.

Особую настороженность, по словам Аверьянова, вызывают модели, которые можно скачать и установить "без цензуры", а затем использовать в любых целях, в том числе преступных. В будущем это потенциально опасно, но есть способы снизить риски, поэтому серьезных поводов для беспокойства, по его мнению, нет.