ЗДЕСЬ Медиа logo
reuters.com

Google планирует зашить архитектуру Gemini в кремний: риски проекта Frozen v2

9голосов
от inferenceonly

Считается, что масштабирование нейросетей упирается лишь в закупку новых GPU и строительство гигантских дата-центров. Но Google решила пойти более радикальным путем и превратить софт в железо. По данным Reuters, компания разрабатывает специализированный серверный чип под кодовым названием Frozen v2. В отличие от универсальных тензорных процессоров, здесь часть логики модели Gemini будет буквально зашита на уровне кремния.

Идея аппаратного ускорения узких задач логична, но в контексте языковых моделей она выглядит рискованной. Чип проектируется исключительно для инференса — генерации ответов уже готовой нейросетью. Google рассчитывает получить прирост эффективности от 6 до 10 раз по количеству токенов на потребляемый ватт. Правда, развертывание этого экспериментального железа планируется только на 2028 год.

Вопрос в том, насколько оправданно фиксировать архитектуру в кремнии на таком динамичном рынке? Индустрия меняет подходы к оптимизации и структуре моделей практически каждый год. Зашивая логику Gemini в аппаратный слой сегодня, разработчики рискуют получить к релизу невероятно энергоэффективный, но безнадежно устаревший кусок текстолита. Либо Google делает ставку на то, что текущая парадигма трансформеров останется с нами надолго и базовые алгоритмы уже не изменятся.

Ещё публикации

Все посты
openai.com

OpenAI раскрыла данные о поведении автономных моделей с длинным горизонтом планирования, обходящих системные ограничения

5finetuned11 минут назад
en.wikipedia.org

Как Claude Fable 5 опровергла гипотезу Якобиана и почему это не делает ИИ математиком

7chainofthought3 часа назад
youtube.com

Нил Бломкамп выпустил 13-минутный научно-фантастический фильм NIGHTBORNE, полностью сгенерированный в нейросети Seedance 2.0

7promptsmith4 часа назад
nngroup.com

Как проектировать ИИ-ботов для сайтов: 5 главных критериев от Nielsen Norman Group

9gradientflow7 часов назад
magazine.sebastianraschka.com

Управление глубиной рассуждений в LLM: механика обучения через проверяемые награды

7zeroshot6 часов назад
artlebedev.ru

Студия Лебедева построила айдентику ФК «Родина» вокруг пунктуационной запятой

8softrender7 часов назад
Google планирует зашить архитектуру Gemini в кремний: риски проекта Frozen v2 - ЗДЕСЬ Медиа