Насколько возможно всеобщее замедление ИИ-разработок?

Акции компаний, связанных с ИИ-технологиями, в понедельник, 14 сентября, резко упали. Технологический индекс NASDAQ-100 в моменте терял больше процента. Поводом стало эссе главы Anthropic Дарио Амодея, в котором тот призвал замедлить развитие искусственного интеллекта. Он допустил, что в противном случае эта технология может выйти из-под контроля, захватить весь интернет и нанести ущерб на сотни миллиардов долларов. Эти опасения поддержали глава OpenAI Сэм Альтман и Илон Маск, гендиректор xAI.

При этом о рисках, связанных с этой технологией, главы ИИ-компаний уже предупреждали и далеко не раз. Но никто так и не остановился и не замедлился. Даже наоборот, темпы развития только выросли.

Однако ландшафт слегка изменился за последние месяцы. Во-первых, ИИ-агенты стали выходить из-под контроля и захватывать посторонние ресурсы, несмотря на заверения разработчиков. Во-вторых, среди обычного населения начало расти недовольство ИИ-дата-центрами, особенно в Штатах.

Заявления ИИ-миллиардеров звучат красиво, но на деле отрасль вряд ли замедлится: Штаты боятся проиграть Китаю. Продолжает политолог, руководитель «Дубравский консалтинг» Павел Дубравский:

Павел Дубравский политолог, руководитель «Дубравский консалтинг» «Здесь, конечно, звучат призывы к тому, чтобы замедлить ИИ, но, наверное, с точки зрения морали и подконтрольности, потому что Илон Маск еще с 2014 года утверждает, что ИИ — это то, что уничтожит человечество, поэтому нужно создать моральный кодекс. Но, как мы видим, он влился в ИИ, но при этом особых ограничений не сделал. Что касается попытки отказа от развития этой сферы или, как минимум, ограничений, я думаю, что США на это не пойдут, потому что в противостоянии с Китаем это является главным фактором того, что США находятся в технологическом опережении над Китаем».

Китай фактически уже отверг идею о всеобщем замедлении. Газета Global Times, которую часто называют неофициальным рупором Пекина, считает, что настоящая цель такого замедления — это фактически наложить ограничения на китайские разработки и «поддержать монополистическую гегемонию Вашингтона в области передовых технологий». Китайская газета даже назвала все это «холодной войной» в сфере ИИ.

Дональд Трамп же, в свою очередь, заявил, что у Штатов есть все инструменты, чтобы обеспечить безопасность этой технологии. В свойственной ему манере, то есть заглавными буквами, он написал, что единственный нужный «ограничитель» для ИИ — это «сильный и умный президент с высоким IQ». По его словам, «кто победит в ИИ-гонке, тот победит вообще». А выгодоприобретателем от замедления ИИ он считает Китай.

Ранее источники Reuters утверждали, что Дональд Трамп и Си Цзиньпин на саммите 24 сентября в Вашингтоне все же могут обсудить риски для безопасности, которые в себе несет ИИ.

Замедление вряд ли возможно, поэтому нужен более тщательный контроль, считает разработчик российской экосистемы ИИ-инструментов Kodik Рафаэль Гильмурахманов:

Рафаэль Гильмурахманов разработчик российской экосистемы ИИ-инструментов Kodik «Всеобще замедлить ИИ, по сути, уже невозможно, потому что есть открытые модели, которые может использовать абсолютно любой человек, и тренировать их, и использовать на своем «железе». Поэтому, наверное, реалистичнее говорить не о том, что нужно целиком заморозить ИИ и остановить его развитие, а скорее нужно введение более жестких ограничений для наиболее рискованных систем искусственного интеллекта, чтобы они тщательнее проверялись, проходили более тщательную проверку на выход, как человек может с ними взаимодействовать, и ограничения рискованного использования, эксплуатации для каких-нибудь опасных тем вроде разработки оружия и подобных вещей».

Заявлениям глав ведущих ИИ-компаний поверили далеко не все, отмечает The New York Times. В Кремниевой долине, например, распространилось мнение, что таким образом лидеры рынка хотят сохранить свои позиции, ограничив потенциальных конкурентов. Некоторые руководители ИИ-стартапов даже назвали главу Anthropic «волком в овечьей шкуре».

А сенатор-республиканец от Техаса Джон Корнин отметил (ссылка ведет на Х, соцсеть заблокирована в РФ), что, если бы ИИ-компании действительно хотели бы замедлиться, они бы это спокойно сделали, им никто не мешает. Мешают лишь конкуренты, включая тех, что находятся в других странах, которые замедляться не собираются.