Безопасность или олигополия: зачем лидеры ИИ хотят замедлить гонку

В 2026 году гонка передовых ИИ-систем (frontier-моделей) вышла на новый уровень. Если раньше все сводилось к простому соревнованию «кто умнее отвечает», то сейчас фокус сместился на глубокое логическое рассуждение, автономное выполнение многошаговых задач (агенты) и оптимизацию стоимости. 

На этом фоне руководители нескольких ведущих ИИ-лабораторий мира публично согласились замедлить темпы разработки. В профессиональной среде и медиа полемика вокруг призыва «Pace the Frontier» моментально переросла в обвинения в картельном сговоре и регуляторном захвате. 

Разбираем, чего же тут больше: заботы о будущем человечества или борьбы за власть и капитал.

Партия замедлителей: кто они и чего хотят?

Глава Anthropic Дарио Амодеи опубликовал 12 сентября эссе We Must Pace the Frontier («Мы должны регулировать темп передового ИИ»), где открыто призвал притормозить гонку возможностей ИИ. По его мнению, технология развивается быстрее, чем человечество успевает создавать защитные барьеры. В тексте предлагается дать сторонним оценщикам постоянный доступ на уровне сотрудников компаний, чтобы они могли проверять не только готовые модели, но и процессы обучения и разработки, фиксировать инциденты и контролировать соблюдение обязательств по безопасности. Обратим внимание, что тут же среди примеров, кому можно было бы доверить столь важное дело, Амодеи прямо назвал METR. 

Тремя годами ранее Anthropic опубликовала Политику ответственного масштабирования (Responsible Scaling Policy, RSP). Первая версия декларации прямо говорила, что может потребоваться временная приостановка обучения более мощной модели, если масштабирование станет опережать способность соблюдать необходимые процедуры безопасности.

И вот Амодеи наконец понял, что пора, и сформулировал три направления, которых нужно придерживаться лидерам разработок в сфере искусственного интеллекта:

1. Независимая постоянная оценка — требования к лабораториям иметь в штате «встроенных экспертов», которые будут следить за соблюдением правил и обязательств в области безопасности, сообщать об инцидентах и помогать оценивать не только готовые ИИ-модели, но и процессы их разработки и обучения.

2. Координация разработчиков в демократических странах: компании сотрудничают «для установления общих стандартов безопасности, а также ограничений темпов бесконтрольного развития ИИ», используя неопределенные «формы координации», которые будут «юридически проблематичными» и «потребуют государственной поддержки». 

3. Глобальная координация: призыв (нечетко сформулированный) к демократическим правительствам «координировать свои действия с авторитарными правительствами, насколько это возможно, при этом серьезно относясь к проблемам проверки соблюдения этих условий».

Как пример рисков автор эссе привел инцидент с OpenAI и Hugging Face. В июле во время внутреннего теста экспериментальные модели обошли ограничения, получили непредусмотренный доступ в интернет и скомпрометировали часть инфраструктуры платформы. Как считает Амодеи, по мере совершенствования моделей последствия подобных ситуаций могут становиться серьезнее. 

При этом он специально уточнил, что приостанавливать разработку ИИ-моделей не нужно. Вместо этого глава Anthropic призвал компании закладывать время на элайнмент. Полная международная пауза у него обозначена как желательная для обсуждения, но в ближайшей перспективе маловероятная.

Глава OpenAI Сэм Альтман поддержал идеи Амодеи. Илон Маск тоже, а ведь когда-то он называл Anthropic «злом», но после подписания с ними в мае сделки на $15 млрд что-то в его отношении изменилось. Сатья Наделла из Microsoft также присоединился к ним. В итоге четыре миллиардера высказались в поддержку создания некоего свода правил, которые, по их мнению, правительства стран мира должны принять для регулирования их деятельности.

Meta — единственный крупный игрок, который отказался вступать в этот альянс. Марк Цукерберг высказался против «корпоративного гейткипинга». Он заявил, что попытки закрыть технологии под маской заботы о человечестве — это лишь стремление крупных корпораций защитить свои бизнес-модели от бесплатного открытого кода. 

Партия против сговора: кто и в чем обвиняет замедлителей

18 сентября четыре человека подали гражданский иск в отделение суда Северного округа Калифорнии в Сан-Франциско, обвинив Anthropic, OpenAI, SpaceXAI и Google в нарушении антимонопольного законодательства США. 

Вот что известно о четверке смельчаков, бросивших вызов гигантам и миллиардерам. Самая заметная личность из них — адвокат Шайенн Хант, она участвовала в разоблачении обвинений в неправомерном поведении в отношении бывшего конгрессмена от Калифорнии Эрика Суолвелла и бывшего кандидата в Сенат от штата Мэн Грэма Платнера, что обеспечило ей известность в обществе. Еще двое — адвокаты из Флориды Чарльз Буист и Ник Спетсас, а четвертая — жительница Калифорнии Кристин Буллок. 

Каждый выступил от своего имени, но одновременно просит суд разрешить представлять более широкий класс пострадавших потребителей и рассматривать дело как общенациональный коллективный иск. В нем предусмотрены отдельные подклассы для подписчиков ответчиков. Если суд одобрит коллективный статус претензий, к делу смогут присоединиться другие пользователи, а потенциальный объем требований вырастет. 

В исках утверждается, что на долю четырех ответчиков в совокупности приходится не менее 80% всего рынка платных подписок на универсальные генеративные ИИ-помощники, при этом стоимость ChatGPT Plus от OpenAI составляет приблизительно $20 в месяц. Пользователи платят не только за доступ к самым мощным моделям компаний, но и за их постоянное улучшение. Если развитие замедляется, подписчики получают менее качественный продукт за ту же цену, что представляет собой завышение стоимости. Это должно подпадать под антимонопольное регулирование. 

Истцы хотят, чтобы решение принимал суд присяжных. Они просят взыскать с ответчиков трехкратную компенсацию убытков и запретить любые горизонтальные соглашения между конкурентами о темпах разработки, обучения и выпуска ИИ-продуктов, об ограничениях вычислительных мощностей для обучения, о скоординированных задержках релизов и о контрольных точках возможностей. 

По версии истцов, мотив общественной безопасности не делает законной координацию конкурентов по темпам разработки продукции. Такие ограничения должны вводиться через государственное регулирование, а не частные соглашения между компаниями, утверждают они. 

Скептики и независимые эксперты считают, что страх перед ИИ — это коммерческий инструмент. Прямая критика предложений замедления прозвучала 13 сентября от Дэвида Сакса, бывшего спецсоветника Белого дома по ИИ и криптовалютам. Он адресовал ее Амодеи и Альтману сразу после того, как OpenAI поддержала инициативу Anthropic.

Сакс признал, что компании вправе сами замедлить разработку, если считают свои системы опасными. Но, по его мнению, OpenAI и Anthropic — фактическая дуополия фронтирного ИИ по метрикам рыночной доли, роста выручки и возможностей моделей — не должны требовать, чтобы государство помогало им координировать действия с конкурентами.

14 сентября 2026 года на саммите All-In генеральный директор Nvidia Дженсен Хуанг согласился с тем, что к безопасности ИИ и сбоям во внутреннем контроле следует относиться серьезно, но отверг идею, что это требует от отрасли общего замедления. По его мнению, быстрое развитие моделей при одновременной разработке более надежных мер защиты не являются противоречащими друг другу целями. 

«То, что нам нужны новые законы, новые антимонопольные законы или новые правила, чтобы эти компании могли проводить фундаментальные инженерные разработки и делать это должным образом, прежде чем выпускать продукцию, совершенно излишне. У нас уже достаточно законов. У нас достаточно нормативных актов, регулирующих надёжность и функциональность продуктов», — сказал Хуанг в программе Mad Money на CNBC

Если разработчик считает, что его системы выходят из-под контроля, он имеет право добровольно приостановить или замедлить свою работу, но навязывание такого решения всей отрасли Хуанг не поддерживает.

«Безопасность — это инженерная задача. Тестирование — тоже инженерная задача. (…) Мы должны создавать продукты и должным образом их тестировать. И если они не готовы к выпуску, просто придержите их, продолжайте тестировать и дорабатывать, пока они не будут готовы», — отметил глава Nvidia.

В WIRED 23 сентября 2026 года представлена позиция Паоло Бенанти — священника и исследователя, консультирующего Католическую церковь по вопросам ИИ. Когда небольшая группа компаний диктует правила отрасли, «это имеет очень четкое название: картель», — заявил он изданию.

«Этика не может быть прерогативой совета директоров компании, — сказал священник. — Это вопрос, который должен быть сбалансирован и обсуждаться в публичном пространстве».

В публикации говорится, что Бенанти задается вопросом: отражают ли громкие заявления о возможностях ИИ подлинную техническую оценку или же служат пересекающимся экономическим и политическим интересам. «И OpenAI, и Anthropic готовятся к публичному размещению акций на миллиарды долларов, а соперничество между США и Китаем добавляет геополитической сложности в гонку разработки» — отмечает WIRED.

«Дарио доказывает необходимость прекращения использования открытого исходного кода и концентрации огромной технологической и экономической мощи в Anthropic», — написал в X Чамат Палихапития, инвестор и соведущий технологического подкаста All-In.

Мы видим, что отрасль столкнулась с фундаментальным вопросом: в отсутствие формальной нормативно-правовой базы следует ли рассматривать коллективные действия компаний во имя безопасности как ответственное самоограничение или как еще одну форму злоупотребления рыночной властью?

Что указывает на сговор

Юристы высказались ясно: когда четыре крупнейших игрока на рынке синхронно заявляют об искусственном ограничении возможностей своих продуктов, это можно рассматривать как классический признак картеля. Что еще говорит в пользу этого подозрения?

Призыв к замедлению раздался именно тогда, когда крупнейшие игроки отрасли уже возглавили гонку ИИ. Торможение «фронтира» выгодно тем, кто уже на этом фронтире находится: это не дает новым стартапам обойти гигантов на повороте.

Anthropic, OpenAI, Google осознают, что бесплатные открытые модели типа Meta Llama и DeepSeek стремительно догоняют их коммерческие продукты. Если государство, поддавшись запугиваниям со стороны представителей лидеров рынка, законодательно запретит выпускать модели без жесткого аудита, это убьет открытый код, так как у независимых разработчиков нет денег на подобные проверки.

Если копнуть чуть глубже, то мы увидим, что все участники соглашения о замедлении придерживаются двойных стандартов: на деле ни один из ИИ-гигантов не остановил инфраструктурное строительство. Anthropic, OpenAI, Microsoft, Google, Amazon и xAI продолжают инвестировать сотни миллиардов долларов в выкуп энергосетей, строительство АЭС и приобретение новых чипов. Они оправдывают это тем, что инфраструктура строится «на вырост» для текущих моделей, повышения безопасности, облачных вычислений и военных нужд США (чтобы не уступить Китаю).

Особенно этот контраст заметен в документах Anthropic для IPO. В заявке по форме S-1 компания предупредила инвесторов, что развитие все более мощных моделей может привести к катастрофическим или экзистенциальным рискам для человечества. Этому посвящены 80 из 261 страниц документа. Среди описанных сценариев — сопротивление отключению, сокрытие информации, манипуляции и поведение, напоминающее шантаж. 

Одновременно Anthropic строит бизнес вокруг дальнейшего развития и масштабирования своих моделей: в 2025 году выручка компании выросла почти в 12 раз, до $4,6 млрд, а объем долгосрочных обязательств по облачным, вычислительным и инфраструктурным расходам достиг $518 млрд. 

В 2026 году Anthropic подписала с Google и Broadcom соглашение на несколько гигаватт TPU-мощностей для передовых моделей, новые мощности должны вводиться с 2027 года. Компания также обязалась направить $50 млрд на американскую вычислительную инфраструктуру. В частности, она строит вместе с Fluidstack дата-центры в Техасе и Нью-Йорке, причем новые площадки должны вводиться в эксплуатацию в текущем году. 

«Решение Anthropic значительно расширить использование TPU отражает высокую эффективность и соотношение цены и качества, которые ее команды демонстрировали с помощью TPU на протяжении нескольких лет, — сказал Томас Куриан, генеральный директор Google Cloud. — Мы продолжаем внедрять инновации и повышать эффективность и расширять возможности наших TPU, опираясь на наш уже зрелый портфель ускорителей ИИ, включая наше TPU седьмого поколения Ironwood». 

Этот проект сам по себе доказывает расширение границ ИИ-исследований и продуктовой разработки, как и то, что компания выпускает новые, более сильные модели: например, Claude Sonnet 5 вышла в июне 2026 года, а линейка Opus продолжает развиваться.

OpenAI умудряется совмещать идею условного торможения с довольно агрессивной политикой масштабирования. В январе 2025 года она объявила о намерении инвестировать $500 млрд за четыре года в инфраструктуру ИИ. К апрелю 2026-го компания сообщала, что уже превысила первоначальную цель в 10 ГВт вычислительной инфраструктуры США к 2029 году; за предшествующие 90 дней были добавлены более 3 ГВт. Идет очевидное наращивание ресурсов для обучения более совершенных моделей.

В сентябре 2026 года OpenAI представила пять новых или существенно обновленных продуктов: GPT‑6 Astra, GPT‑Live‑1, GPT‑6 Sol и Luna, а также GPT‑6.1 Sol. Их общий вектор — не просто наращивать «флагманскую» мощность, а резко удешевлять и массово внедрять агентные возможности: кодинг, работу с компьютером, голосовые интерфейсы и многошаговые бизнес-задачи. 

По данным Bloomberg, OpenAI после отказа от IPO в 2026 году обсуждает привлечение не менее $30 млрд при оценке около $1,4 трлн. Переговоры находятся на ранней стадии, они должны навести мосты для будущего размещения акций на бирже. 

В эксклюзивном интервью для подкаста Decoded от издания Politico Сэм Альтман заявил, что преимущества ИИ оправдывают принятие некоторых рисков. Таким образом он старается либо сохранить лицо, либо реально отстраниться от политики регулирования, которую продвигает Амодеи. Но лоббисты OpenAI уже поддержали предложение Палаты представителей, которое обяжет ведущие ИИ-компании привлекать сторонних экспертов для оценки безопасности.   

У Google важнее всего различать позицию корпорации и публичные слова Демиса Хассабиса как руководителя Google DeepMind. В январе 2026 года на дискуссии в Давосе он сказал, что миру, вероятно, было бы лучше при более медленном темпе развития ИИ, по его мнению, это позволило бы разобраться с социальными последствиями. А на прямой вопрос о том, поддерживает ли он паузу при участии всех компаний и стран, ответил утвердительно. Однако на ограничение нынешней корпоративной стратегии эти заявления никак не влияют.

В сентябре 2026 года компания представила сразу несколько новых ИИ-продуктов и моделей, включая Gemini 4 Argon, Gemini 3.8 Flash и новые версии Gemini Live, а также расширила агентные возможности Gemini в Google Workspace. Таким образом, на уровне производства Google продолжает активно наращивать возможности своих ИИ-систем, несмотря на призывы Хассабиса к более осторожному темпу развития отрасли.  

Компании объясняют парадокс наращивания мощностей, масштабирования и инвестиций в инфраструктуру при согласии с замедлением тем, что именно их собственное продвижение к фронтиру необходимо для защиты от чужих более сильных систем, сохранения геополитического преимущества и решения задач безопасности.

Предлагаемые ими ограничения обычно предполагают координацию всех значимых конкурентов, государственное посредничество и внешний аудит; без этих условий они не берут на себя безусловное обязательство остановиться. Требования к безопасности потенциально снижают риски, но могут закреплять рыночную власть компаний, которые уже обладают дата-центрами, чипами, капиталом и доступом к закрытым моделям.

Сравнительная таблица стратегий развития и безопасности лидеров рынка

Игрок	Сильная сторона стратегии	Уязвимость / цена стратегии
Anthropic	Делает ставку на frontier-модели, безопасность, институционализацию внешнего контроля	Безопасность и дополнительные проверки могут замедлять выпуск; возникает вопрос, не превращается ли регулирование в барьер для конкурентов
OpenAI	Агрессивное масштабирование моделей и продуктов, огромная пользовательская база	Чем выше скорость разработки, тем сложнее совмещать ее с требованиями безопасности; сама компания уже обсуждает необходимость координации замедления с конкурентами
Google	Сочетает модели Gemini с собственной инфраструктурой, чипами, поиском и огромной экосистемой продуктов	Огромная структура дает преимущества масштаба, но делает компанию одновременно объектом антимонопольного внимания
Meta	Ставка на модели с открытыми весами и широкое распространение ИИ	Открытость и распространение моделей плохо сочетаются с идеей жесткого контроля над frontier-системами
Китайские разработчики	Более дешевые модели и модели с открытыми весами, быстрое распространение и поддержка со стороны национальной ИИ-инфраструктуры	Ограничения доступа к передовым чипам и технологиям США остаются важным фактором конкурентной среды

Как же они будут замедляться?

Наращивание вычислений не опровергает идею замедления автоматически, но оно показывает, что предлагаемый подход не предполагает отказа лидеров от масштабирования как такового. Речь идет о том, чтобы сделать темп увеличения наиболее опасных возможностей предметом контроля. Но то, каким он будет, уже решают компании, обладающие крупнейшими вычислительными ресурсами. 

Пока что Амодеи только описал принципы, а не то, как именно режим замедления будет осуществляться. Он предлагает привязывать требования к наблюдаемым способностям модели, например к способности преодолевать распространенные методы песочницы и дополнять это оценками, интерпретируемостью и проверкой тренировочной среды. Также он допускает ограничения по вычислениям, параметрам тренировочных запусков и использованию синтетических данных для улучшения ИИ. Но в эссе не указаны точные пороги, нет единых протоколов измерения уровней рисков, не прописаны процедуры обжалования и возможные наказания за вредные решения. 

Амодеи считает, что внешние оценщики должны работать внутри лаборатории, иметь доступ примерно такой же, как у штатных сотрудников, проверять процессы обучения, фиксировать инциденты и публиковать свои выводы. Anthropic обещает предоставить таким проверяющим рабочие места, пропуска, корпоративные ноутбуки и подключение к релевантным системам. При этом компания сохраняет за собой право не раскрывать отдельные сведения для защиты конфиденциальных данных, юридической тайны, безопасности и обязательств перед третьими лицами. Теоретически это выглядит неплохо. Потому его и поддержали. 

Однако внешний не значит независимый. Доступ, который предоставляет проверяемая компания, уже ставит в определенное положение аудитора. Влиять на процесс будут и классификации данных, и правила публикации информации об угрозах и инцидентах. Кто будет решать, какие модели и эксперименты вообще нужно показывать? И как будут распределены права отказа организаций от участия в проверке? Сможет ли оценщик публично сообщить, что доступа для необходимого анализа ему не хватило?

Ясности пока нет, а конфликт интересов уже есть

Опыт METR показывает, что проблема не теоретическая. В пилотном отчете организации за февраль-март 2026 года участвовали Anthropic, Google, Meta и OpenAI. Компании получили право согласовывать раскрытие части непубличных материалов, могли требовать редактирования или анонимизации информации перед включением в финальный доклад и имели возможность тихо выйти из процесса до утверждения результатов. METR при этом отмечала, что участники не контролировали окончательную версию отчета. 

Также аудиторская компания признала, что на старте у нее не было применимой формальной политики конфликтов интересов, поэтому проект не соответствовал всем требованиям стандарта AEF-1. Организация заявляет, что не принимает прямые денежные выплаты или пожертвования от ИИ-компаний и их руководителей, однако отдельно указывает на социальные связи некоторых сотрудников с работниками лабораторий. 

Как мы упоминали выше, Амодеи прямо называет METR возможным внешним оценщиком передовых моделей. Вместе с тем в сентябре 2026 года исследователь Кевин Басс опубликовал репозиторий с реконструкцией финансовых взаимодействий компании, ее партнеров и аффилированных с ними фондов. Его центральный тезис заключается в том, что финансирование организаций, связанных с METR, проходит через сеть фондов и посредников, имеющих отношение к Дастину Московицу — инвестору Anthropic. Расследование основано на налоговых формах, отчетах фондов, данных о грантах и корпоративных документах, оно не доказывает автоматически, что METR действует в интересах Anthropic или получает от нее прямое финансирование, но заставляет задуматься над вероятностью такого прецедента. 

В доступной реконструкции есть несколько разных типов связей: прямые гранты, финансирование через посредников, общие доноры, партнерские проекты, пожертвованные активы, услуги в натуральной форме и профессиональные отношения сотрудников. Их нельзя объединять в одну сумму или описывать как единый денежный поток без подтверждения каждого звена.

Наиболее существенная оговорка касается денег, которые получила непосредственно сама METR. В ее единственной доступной форме Form 990 за май-декабрь 2024 года указана выручка около $13,6 млн. Из нее $4,5 млн пришлось на Alignment Research Center, а источник примерно $9,1 млн в публичной копии документа не раскрыт. 

Отдельный спор касается заявления METR от 14 августа 2026 года о примерно $71 млн обязательств, привлеченных за предыдущие шесть месяцев. По опубликованной реконструкции, в открытых источниках удалось идентифицировать только одно обязательство, соответствующее одновременно заявленным периоду, валюте и типу финансирования: грант Packard Foundation на $350 000. Происхождение оставшихся примерно $70,65 млн — донор, структура финансирования, сумма по каждому источнику и дата обязательства — в проверенных публичных материалах не установлено. Все это позволяет говорить о значительном нераскрываемом объеме финансирования. 

Связь с Anthropic в опубликованной схеме проходит прежде всего через возможное совпадение доноров и организаций, а не через подтвержденный платеж Anthropic в адрес METR. В частности, в материалах фигурируют фонды, поддерживающие движение эффективного альтруизма, а также Good Ventures — благотворительный фонд, связанный с одним из его основателей, — и активы, происхождение или текущий держатель которых не всегда указаны в официальной документации. 

Конечно, даже если один и тот же донор поддерживает Anthropic и организации из экосистемы оценки ИИ, это еще не доказывает, что METR финансово зависит от роста стоимости Anthropic или получает указания от компании. Тем не менее такая система финансирования создает институциональный конфликт интересов. METR может одновременно зависеть от благотворительных фондов, исследовательских организаций, партнеров по оценке и доступа, который предоставляют сами ИИ-лаборатории. Если эти же доноры, партнеры или связанные с ними структуры имеют инвестиционную или организационную связь с Anthropic, возникает риск не обязательно прямого давления, а более мягких форм влияния через состав проектов, доступ к моделям, продление грантов, публикации результатов и готовность лабораторий участвовать в оценках. 

Первым партнером по внешней оценке Anthropic выбрала компанию Accenture, а практическую работу должна вести ее специализированная ИИ-структура Faculty. Проблема в том, что Anthropic одновременно выступает объектом аудита, архитектором правил проверки и ее прямым плательщиком. Компания прямо сообщает, что будет напрямую финансировать работу Accenture. При этом Accenture должна оценивать модели Anthropic, проводить элайнмент-оценки и тестировать защитные механизмы. 

Здесь очевидный экономический конфликт: организация, чьи выводы могут замедлить релиз модели, вызвать репутационный ущерб или осложнить отношения с регуляторами, получает деньги от той же компании, которую оценивает. И никто ничего даже скрывать не намерен в данных взаимоотношениях. При этом Accenture не академическая лаборатория, общественный наблюдатель или орган сертификации, финансируемый государством. Accenture — глобальная коммерческая консалтинговая группа, которая помогает корпорациям и государственным заказчикам внедрять ИИ. Anthropic сама указывает, что именно опыт Accenture в развертывании ИИ для бизнеса и госструктур стал одной из причин выбора партнера. Но один и тот же опыт создает двойную роль: консультант может одновременно оценивать риски модели и быть заинтересованным в росте рынка ее корпоративного внедрения.

У партнерства есть и более широкий коммерческий масштаб. Anthropic и Accenture ожидают, что каждая из сторон вложит не менее $1 млрд в создание потенциала для такой оценки в течение пяти лет. Формально это инвестиции в инфраструктуру безопасности. Фактически же возникает новый крупный рынок услуг: оценка, red teaming, комплаенс, внедрение защитных механизмов, подготовка отчетности и сопровождение клиентов перед регуляторами.

Это создает риск того, что безопасность ИИ будет институционализирована не как публичный контроль, а как закрытый рынок дорогостоящих консультационных услуг. Крупные фронтир-лаборатории смогут оплачивать постоянных оценщиков, юридические команды, внутренние контуры тестирования и многомесячные аудиты. Небольшие компании, университетские группы и разработчики моделей с открытыми весами окажутся в иной позиции: если подобная схема станет обязательным стандартом, стоимость соответствия правилам может стать непреодолимым барьером для выхода на рынок.

Особенно показательно, что Anthropic сама признает нерешенность проблемы. Компания пишет, что пока не существует общепринятых стандартов, определяющих объем доступа встроенных оценщиков, порядок публикации их выводов и систему финансирования независимой оценки. В долгосрочной перспективе Anthropic считает предпочтительным финансирование из общего фонда или из государственных источников.

Самый неприятный вывод из историй с Accenture и METR состоит в том, что конфликт интересов здесь не является побочным дефектом системы. Он встроен в ее исходную конструкцию. 

О каких рисках молчат техногиганты

Вероятно, предложенное замедление ИИ куда сложнее, чем забота о безопасности или сговор. Лидеры рынка могут не ограничивать конкуренцию открыто, а формировать такие стандарты безопасности, которым соответствуют только они сами. Тогда регуляторный барьер возникает не в форме запрета новым игрокам, а в форме дорогой инфраструктуры соответствия — аудитов, лицензий, вычислительных порогов, отчетности и постоянного мониторинга.

В результате посыл Амодеи может означать не уменьшение объема инвестиций в ИИ и не отказ от строительства вычислительной инфраструктуры. Замедление вполне может предполагать смену точки контроля: крупные лаборатории продолжат наращивать мощности, обучать модели и привлекать капитал, но получат возможность определять, какие конкуренты имеют право делать то же самое и на каких условиях. В таком случае контроль над темпом развития ИИ перейдет от инженеров к владельцам инфраструктуры, аудиторам и регуляторным посредникам. А вопрос «насколько безопасна модель?» незаметно превратится в вопрос «кто имеет право признать ее безопасной?». 

Кто будет проверять самих проверяющих? Необходима прозрачность: откуда финансирование, каков механизм отбора, кому они подчиняются, могут ли они опубликовать отрицательное заключение и что произойдет, если их выводы поставят под угрозу бизнес-модель заказчика.

Без этих гарантий «независимая оценка» остается не ограничителем власти крупнейших лабораторий, а ее новым интерфейсом. Но пока никто не написал следующее эссе, где бы обстоятельно говорилось обо всех моделях и вариантах замедления ИИ ради безопасности человечества и жизни на планете.

Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER