Nvidia представила обновленный чип GH200 Grace Hopper с высокоскоростной памятью
Главный исполнительный директор Nvidia Дженсен Хуанг подробно рассказал о чипе во время выступления на конференции по компьютерной графике, которая проходит на этой неделе в Лас-Вегасе. Хуанг сказал, что в настоящее время чип GH200 находится в производстве. Компания планирует начать его тестирование ближе к концу года и предполагает, что поставки начнутся во второй половине 2024 года.
По данным Nvidia, новая версия GH200 — это первый в мире процессор с памятью HBM3e. Это тип высокоскоростной памяти, предназначенный для хранения данных, которые активно обрабатывает чип. HBM3e на 50% быстрее, чем HBM3 - технология, использованная в оригинальной версии GH200. HBM3e производится компанией SK hynix по 10-нанометровому техпроцессу. Принятие этой технологии компанией Nvidia неудивительно, так как в июне появились сообщения о том, что чиповый гигант обратился к SK hynix за образцами HBM3e.
Оснащение чипа более быстрой памятью, такой как HBM3e, позволяет запускать на нём большие языковые модели с более высокой производительностью. Причина связана с тем, как устроены языковые модели и нейронные сети в целом. Искусственный интеллект состоит из множества строительных блоков программного обеспечения, называемых слоями. Каждый такой строительный блок выполняет небольшую часть возложенной на искусственный интеллект задачи.
Первый слой ИИ принимает необработанные входные данные, анализирует их и генерирует набор промежуточных результатов. Затем эти результаты передаются на второй слой, который выполняет дальнейшую обработку. Результаты этой дальнейшей обработки затем отправляются на третий слой для следующего круга вычислений, и тот же процесс повторяется оттуда еще много раз.
Всякий раз, когда один из слоев ИИ генерирует промежуточные результаты обработки, чип, на котором работает ИИ, должен сохранять эти результаты в памяти. Затем те же данные должны быть извлечены из памяти на следующий слой ИИ для дальнейшего анализа. Это означает, что данные постоянно перемещаются между логическими схемами чипа и его оперативной памятью.
Новый GH200 запускает модели искусственного интеллекта на двух встроенных вычислительных модулях. Первый представляет собой центральный процессор с 72 ядрами, основанный на конструкции чипа Neoverse компании Arm Ltd. Другой вычислительный модуль GH200 представляет собой графический процессор, предлагающий четыре петабайта для производительности ИИ.
GH200 совместим с эталонной архитектурой Nvidia MGX, являющейся платформой для проектирования серверов. В результате производителям оборудования должно быть относительно просто встроить этот чип в свои серверы.
«Модернизированная версия GH200, оснащенная HBM3e, составляет основу системы центра обработки данных под названием Grace Hopper Compute Tray. Каждая такая система объединяет один GH200 с чипами Nvidia BlueField-3 и ConnectX-7. Последние чипы предназначены для ускорения сетевого трафика к серверу и от него, но BlueField-3 также может ускорить некоторые вычислительные задачи», - сказал Дженсен Хуанг.
