Axios узнал, что в США допустили «крупный инцидент с ИИ» в течение года

Axios: ИИ-компании допустили крупный инцидент с ИИ в течение года

Ведущие ИИ-компании, включая Anthropic и OpenAI опасаются, что «крупный инцидент» с ИИ произойдет в ближайшие 6–12 месяцев. Об этом пишет Axios со ссылкой на источники.

По данным издания, Anthropic, OpenAI и другие ИИ-компании в частном порядке прорабатывают сценарии реакции общества и властей на случай «катастрофического инцидента» с участием искусственного интеллекта.

Главы компаний опасаются возможной кибератаки которая приведет к прекращению доступа к финансовым услугам, интернету или даже электро- и водоснабжению.

Axios указывает, что многие ведущие исследователи и руководители компаний в области ИИ считают «неизбежным» скорый крупный инцидент с ИИ.

OpenAI сообщила Axios, что проводит учения по проработке возможных сценариев. В Anthropic от комментариев отказались.

Авторы материала предположили, что в США могут замедлить развитие ИИ из-за возможного прихода к власти демократов, которые предлагают запрет на создание суперинтеллекта и приостановку разработки передовых систем. Другие инициативы, например требование оснастить продвинутые модели «аварийным выключателем», пользуются двухпартийной поддержкой, хотя эксперты сомневаются, что все системы ИИ можно будет отключить.

В то же время, как отмечает Axios, мировая экономика уже сильно переплетена со строительством ИИ-инфраструктуры и замедление этого процесса может «сильно ударить по и без того хрупкой экономике».

В конце августа глава компании Anthropic Дарио Амодеи призвал замедлить развитие ИИ, чтобы сохранить контроль над технологией. Он связал свои опасения со случаями, когда ИИ-агенты выходили за установленные ограничения. Его призыв поддержали глава OpenAI Сэм Альтман и руководитель xAI Илон Маск.

Президент США Дональд Трамп, в свою очередь, отверг призывы руководителей технологических компаний замедлить развитие ИИ. «Послушайте, мы опережаем Китай в сфере искусственного интеллекта... и, честно говоря, я хочу, чтобы так оно и оставалось, потому что тот, кто победит в гонке технологий искусственного интеллекта, — победит в целом», — сказал он.

О рисках потери контроля над ИИ также предупреждал нобелевский лауреат по физике Джеффри Хинтон, которого называют «крестным отцом» ИИ. По его словам, на данный момент у компаний нет возможности безопасно разрабатывать «суперинтеллект» — искусственную систему, интеллект которой значительно превосходит человеческий.

Оставайтесь на связи с РБК в «Максе».