Учёный из Microsoft показал, что «разумный ИИ» можно собрать внутри Age of Empires II — нейронную сеть и аналог машины Тьюринга удалось реализовать средствами стратегии 1999 года

Современные исследования всё чаще поднимают вопросы о том, обладают ли большие языковые модели эмпатией, способностью понимать намерения собеседника или даже отдельными чертами сознания. Новая работа исследователя Microsoft и Йоркского университета Адриана де Уинтера (Adrian de Winter) ставит под сомнение сам подход к таким вопросам.

Автор показал, что внутри стратегии Age of Empires II можно реализовать как простую нейронную сеть, так и систему, вычислительно эквивалентную универсальной машине Тьюринга — теоретической модели компьютера, на которой основано современное программирование. По мнению де Уинтера, этот результат демонстрирует важную проблему: многие свойства, которые сегодня приписывают ИИ, могут оказаться не характеристиками самих моделей, а следствием того, как человек воспринимает их через удобный интерфейс.

В одном из экспериментов исследователь построил внутри игрового редактора сценариев аналог простого перцептрона — базового элемента нейронных сетей. Вместо электронных сигналов использовались игровые объекты: овцы и крестьяне перемещались по заранее заданным маршрутам, выполняя роль логических элементов и передавая информацию между узлами вычислительной схемы.

В другой части работы автор реализовал аналог универсальной машины Тьюринга. Роль символов на вычислительной ленте играли различные типы построек, а состояние системы кодировалось через параметры игровой экономики. Несмотря на необычную реализацию, такая конструкция способна выполнять те же вычисления, что и современные компьютеры.

Изображение сгенерировано: Nano Banana

Главный вывод исследования касается не самой игры, а методов оценки искусственного интеллекта. По словам де Уинтера, многие популярные тесты изначально построены на предположении или скрытом убеждении, что языковая модель обладает теми или иными «человеческими качествами». В результате эксперименты часто оказываются логически замкнутыми: исследователь фактически находит именно то, что заранее предположил.

Автор обращает внимание на то, что способность модели убедительно говорить от первого лица нередко воспринимается как доказательство наличия внутренних переживаний или намерений. Однако если те же вычислительные принципы перенести в среду вроде Age of Empires II, где информацию передают движущиеся игровые юниты, то ощущение «разумности» практически исчезает, хотя математическая суть процесса остаётся той же.

Для иллюстрации проблемы де Уинтер приводит мысленный эксперимент, близкий к известным философским аргументам о природе сознания. Если представить, что функции языковой модели выполняет огромное количество людей, обменивающихся сообщениями по строго определённым правилам, то будет трудно всерьёз говорить о наличии у такой системы тревоги, эмпатии или собственных желаний. По мнению автора, аналогичная осторожность должна применяться и к современным ИИ-моделям.

В качестве альтернативы исследователь предлагает использовать так называемое «нулевое предположение» (Null Assumption). Согласно этому подходу, до появления надёжных и независимых доказательств не следует приписывать искусственному интеллекту человеческие психологические свойства. Вместо обсуждения того, что ИИ якобы «чувствует» или «понимает», предлагается анализировать только наблюдаемое поведение и действительно измеряемые возможности и параметры системы.

Работа также затрагивает практические вопросы безопасности. Автор отмечает, что разработчики всё чаще наделяют чат-ботов признаками субъектности — фразами вроде «я думаю», «мне кажется» или «я чувствую». Это делает взаимодействие более естественным для пользователя, но одновременно усиливает риск эмоциональной привязанности и может создавать ложное представление о природе современных ИИ-систем.

По сути, исследование предлагает пересмотреть один из самых популярных нарративов последних лет. Если вычислительную систему, сравнимую по принципам работы с ИИ, можно собрать из игровых юнитов в стратегии конца 1990-х годов, то вопрос о «человечности искусственного интеллекта» может говорить больше о восприятии наблюдателя, чем о самих алгоритмах. Именно поэтому автор призывает оценивать ИИ не через психологические аналогии, а через строгие и проверяемые научные критерии.

©  iXBT