Google хочет «вшить» Gemini прямо в чип: производительность ИИ обещают увеличить до 10 раз

Google разрабатывает специализированный серверный процессор Frozen v2, в котором модель Gemini не будет загружаться в память, а станет частью самого чипа. По данным The Information, такая конструкция может повысить энергоэффективность в 6–10 раз по сравнению с нынешними ускорителями Google.

Компания официально проект не подтвердила, а его возможное появление ожидается не раньше 2028 года.

Современные ускорители моделей искусственного интеллекта остаются универсальными: модель хранится в памяти, а процессор постоянно обменивается с ней данными во время работы. В случае Frozen v2 сама структура нейронной сети Gemini будет «зашита в кремний». Обновлять можно будет только веса модели — параметры, полученные во время обучения, — тогда как архитектура останется неизменной. Насколько глубоко она будет интегрирована в аппаратную часть, пока ещё определяется.

Изображение сгенерировано: Nano Banana

Главная цель такого подхода — эффективность. По информации The Information, новый процессор сможет обслуживать в 6–10 раз больше токенов (единиц, которыми оперируют большие языковые модели) на единицу потребляемой энергии, чем нынешние специализированные чипы Google.

Frozen v2 рассматривается как отдельная линейка процессоров, которая дополнит, а не заменит существующие TPU.

Разработка также связана с дефицитом вычислительных ресурсов внутри Google. Нехватка мощностей уже настолько велика, что Google Cloud была вынуждена отказать части внешних клиентов. Чем ниже энергопотребление и выше производительность одного чипа, тем дешевле становится обслуживание миллиардов запросов к ИИ и тем меньше требуется серверов для той же нагрузки.

Похожую концепцию уже продвигает стартап Taalas, который создаёт чипы с «заранее запечатанными внутри» архитектурой и весами модели. Однако у такого подхода есть и недостаток: искусственный интеллект развивается очень быстро, и аппаратное решение, рассчитанное на сегодняшнюю архитектуру версии Gemini, к моменту выхода может просто устареть. Пока Google подтверждает лишь то, что экспериментирует с высокоэффективными вычислительными решениями, а Frozen v2 остаётся проектом, о котором известно только из публикаций СМИ.

©  iXBT