Google разрабатывает чип искусственного интеллекта «Frozen v2»
Источники сообщили изданию The Information, что новый процессор имеет кодовое название «Frozen v2». Ожидается, что он обеспечит в 6-10 раз более высокую производительность на ватт, чем нынешние процессоры поискового гиганта. После публикации этого сообщения акции материнской компании Google, компании Alphabet Inc., выросли на 1,5%.
В стандартных чипах искусственного интеллекта часто содержатся компоненты, которые клиентам не требуются. Например, если стартап в области ИИ покупает графическую карту, включающую как ядра для вывода данных, так и ядра для рендеринга, то последние могут остаться неиспользованными. Это может привести к неэффективности в проектах по разработке искусственного интеллекта.
Разработка специализированного чипа является решением этой задачи. Компания может исключить схемы, ненужные для её рабочих нагрузок, и тем самым снизить производственные затраты. В качестве альтернативы, она может заменить такие схемы ядрами, оптимизированными для конкретного сценария использования.
Компания Google уже давно предлагает через свое публичное облако специализированные чипы для искусственного интеллекта, называемые TPU. Две новейшие модели в линейке, TPU 8t и TPUi, оптимизированы для обучения и вывода результатов соответственно. Согласно последнему отчету, Google планирует пойти в этой области еще дальше, оптимизировав свой будущий чип Frozen v2 для архитектуры моделей Gemini.
Значительное повышение эффективности, на которое рассчитывает компания, будет достигнуто несколькими путями. В частности, компания надеется, что Frozen v2 сократит количество вычислений, необходимых для работы Gemini. Также, по имеющимся данным, это уменьшит объем перемещения данных.
Проблема перемещения данных возникает, когда нейронная сеть не помещается во встроенную память видеокарты. В этом случае элементы нейронной сети хранятся во внешней памяти. Видеокарта должна регулярно перемещать эти элементы из внешней памяти в свои логические схемы и наоборот, что значительно замедляет обработку.
Компания Google могла бы устранить это узкое место, оснастив чип Frozen v2 объемом памяти достаточным для полноценной работы Gemini на одном чипе. Такая конструкция устранила бы необходимость перемещения данных во внешнюю оперативную память и обратно.
Ожидается, что Frozen v2 сократит количество вычислений, необходимых для запуска Gemini. Из этого можно предположить, что он также будет поддерживать некоторую форму объединения операторов. Это широко используемый метод для ускорения моделей искусственного интеллекта. Метод работает за счет объединения нескольких вычислений в одно вычисление, которое может быть выполнено быстрее.
Google использует свои TPU в кластерах, содержащих множество специализированных компонентов. Например, TPU 8i используется для управления потоком данных специализированные устройства, называемые оптическими коммутаторами. Предположительно, Google сделает Frozen v2 совместимым с этими компонентами, чтобы избежать необходимости серьезной переработки кластера.
По имеющимся данным, компания надеется начать внедрение этого чипа в свои центры обработки данных в 2028 году.
