Названо воздействие чат-ботов с ИИ на эмоциональные проблемы подростков

Чат-боты с искусственным интеллектом связаны со «значительно более высоким уровнем эмоциональных проблем» у подростков. Возможно, все обеспокоены тем, что искусственный интеллект отнимет у нас рабочие места, но не стоит игнорировать тот вред, который эта технология наносит молодежи. 

В то время как Европейский союз недавно запретил использование технологий искусственного интеллекта, представляющих угрозу для здоровья, США отстают в разработке всеобъемлющих федеральных правил, регулирующих использование искусственного интеллекта, пишет New York Post. 

Новое исследование выявило тревожную связь между использованием чат-ботов с искусственным интеллектом и эмоциональными проблемами у детей и подростков, при этом некоторые группы населения более уязвимы к негативным последствиям. В ходе исследования, результаты которого были опубликованы в журнале JAMA Pediatrics, было опрошено почти 40 000 учащихся с 4-го по 12-й класс из канадской провинции Онтарио на предмет использования ими искусственного интеллекта. 

Более 21% учащихся сообщили, что используют генеративный ИИ в «аффективных целях», то есть для получения эмоциональной поддержки или советов о друзьях и семье. 

В чем проблема? Использование чат-ботов по этим причинам было тесно связано со «значительно более высоким уровнем эмоциональных проблем» — у учащихся почти в два раза чаще наблюдались клинически значимые симптомы дистресса, отмечает New York Post. 

Эта проблема затрагивает не все группы в равной степени: связь между использованием ИИ и эмоциональными проблемами была сильнее выражена у девочек, а также у темнокожих студентов, представителей коренных народов и других расовых меньшинств. 

Доктор Консуэло Каганде, заведующая отделением детской и подростковой психиатрии в нью-йоркской больнице Northwell Zucker Hillside и Детском медицинском центре Коэна, сказала, что обращение молодых людей к чат-ботам с искусственным интеллектом за помощью в решении эмоциональных проблем «вызывает серьёзную обеспокоенность» — 10 баллов из 10 возможных. 

«Молодёжь всё чаще заменяет традиционные социальные группы и традиционные модели лечения этими чат-ботами и алгоритмами», — сказала Каганде в интервью New York Post. Более серьёзная проблема, добавила она, заключается в «отсутствии мер защиты, последующего клинического наблюдения или кризисной поддержки для тех, кто подвержен риску и использует чат-ботов». 

Исследователи обнаружили, что молодые люди, которые обращаются к ИИ за эмоциональной поддержкой, также сообщают о чувстве одиночества и о том, что они «не нужны» другим. Тем не менее, даже если исключить эти факторы, связь между использованием ИИ и эмоциональными проблемами сохраняется. 

Каганде говорит, что они также могут бояться осуждения, если расскажут кому-то о своих проблемах. Если молодые люди собираются использовать чат-ботов, Каганде рекомендует следить за ними и обучать их цифровой грамотности и правильному использованию ИИ, чтобы избежать распространения дезинформации. 

Доктор Каганде также обеспокоена тем, что некоторые дети и подростки могут скрывать, что используют ИИ, по эмоциональным причинам. Прежде всего, генеративный ИИ не должен быть первым источником информации при эмоциональном расстройстве или проблемах с психическим здоровьем. Каганде добавляет, что его следует использовать только как вспомогательный инструмент. 

«Если ребёнок всё же использует чат-бота с искусственным интеллектом, он должен рассказать врачу о том, что чат-бот сообщил ему о его проблемах с психическим здоровьем, и не воспринимать это как окончательный совет», — говорит она. 

В противном случае в первую очередь следует обратиться к традиционным способам получения помощи: к врачу, который может помочь найти ресурсы или направить к специалисту по психическому здоровью, а также к учителям или школьным психологам, отмечает New York Post.