Что на самом деле заставляет людей доверять ИИ — показало исследование

Исследование, опубликованное в журнале Computers in Human Behavior, показывает, что люди оценивают искусственный интеллект не по простому критерию «дружелюбный или рациональный». Гораздо важнее оказывается другое: насколько стиль общения системы соответствует конкретной ситуации и характеру морального выбора. Авторы работы — Ляньшань Чжан и Мэй Инь Чжао. 

Как устроили эксперимент

В исследовании участвовали 447 человек, набранных через онлайн-панель в Китае. Участники общались с экспериментальным чат-ботом, созданным на платформе.

Сначала они проходили короткий диалог о стрессе. Бот при этом демонстрировал один из двух стилей:

эмпатичный и «теплый»; или формальный и ориентированный на задачу.

Затем участникам давали моральную дилемму. Варианты различались по степени тяжести — от относительно безопасных последствий до ситуаций, где речь шла о жизни людей. Чат-бот предлагал решение:

либо утилитарное (максимизация общего блага), либо деонтологическое (запрет причинения вреда вне зависимости от результата).

После этого участники оценивали систему по шкале доверия, моральной «субъектности» и эмоциональной воспринимаемости.

Главный результат: стиль сам по себе не работает

Один из ключевых выводов оказался неожиданным:

То же касается и рационального стиля: сам по себе он не повышал доверие.

Решающим фактором оказалось другое — соответствие между тоном общения и характером морального решения.

Контекст важнее тона

В простых ситуациях участники чаще доверяли «доброму» и эмпатичному ИИ. Такой стиль воспринимался как сигнал заботы.

Но в сложных дилеммах, особенно связанных с риском для жизни, картина менялась. Там выше оценивался более строгий и компетентный стиль общения, особенно если бот предлагал сложные утилитарные решения.

Интересный эффект возник и вокруг утилитарных решений: участники иногда приписывали больше «моральных эмоций» тем системам, которые допускали причинение вреда одному человеку ради спасения многих. Это выглядело противоречиво, но исследователи связывают это с восприятием «ответственного выбора», а не холодного расчета.

Как отмечают авторы иссследования, проблема доверия к ИИ не решается простым добавлением эмпатии.

Люди не просто реагируют на «тон» системы. Они оценивают, уместен ли этот тон в конкретной моральной ситуации и совпадает ли он с логикой принятого решения.

Первый диагноз ИИ-зависимости поставили в Италии

Почему нельзя доверять ИИ: ученые объяснили «цифровое подхалимство»

Подписывайтесь и читайте «Науку» в MAX