Google хочет сделать инфраструктуру для Gemini дешевле и независимее от внешних поставщиков: Alphabet разрабатывает серверный чип Frozen v2, который должен повысить энергоэффективность ИИ-моделей Gemini. По данным The Information, новый чип должен заметно ускорить работу Gemini в дата-центрах Google Cloud и снизить энергозатраты на вычисления. Выход устройства ожидается к 2028 году.
Как утверждается, эффективность Frozen v2 может вырасти в 6–10 раз по сравнению с текущими решениями Google. Речь идёт именно об инференсе — то есть о генерации ответов моделью; этот показатель измеряют по числу сгенерированных токенов на единицу энергии. The Information связывает это с тем, что Google пытается сильнее контролировать всю цепочку вычислений для Gemini.
В основе подхода лежит тесная связка железа и софта. Архитектура Gemini частично встраивается прямо в физический чип, чтобы сократить лишние вычисления и уменьшить энергозатратные перемещения данных между серверами. Именно такой сценарий, по замыслу Google, должен дать системе максимальную производительность при меньшем расходе ресурсов.
Отдельно отмечается и стратегическая сторона проекта. Собственный чип должен уменьшить зависимость Google от поставщиков вроде NVIDIA, а также помочь эффективнее использовать существующие дата-центры. На фоне дефицита вычислительных мощностей это ещё и способ снизить нагрузку на энергосети, что для крупных ИИ-систем становится всё более серьёзной проблемой.
Ситуация уже отражалась и на операционной работе Google Cloud: ранее сервис приостанавливал подключение корпоративных клиентов из-за перегрузки. После утечки информации акции Alphabet выросли на 3%, что показывает, насколько остро рынок реагирует на любые новости о собственных ИИ-чипах и планах