Nvidia запускает суперчип GH200 для ускорения рабочих нагрузок с ИИ
Суперчип Nvidia GH200 был разработан для питания систем, которые будут выполнять одни из самых сложных на сегодняшний день рабочих нагрузок с использованием искусственного интеллекта, включая обучение генеративных моделей ИИ следующего поколения.
Об этом было объявлено на мероприятии COMPUTEX 2023 исполнительным директором Nvidia Дженсеном Хуангом, который также представил первые компьютерные системы, которые будут работать на базе суперчипа. Хуан объяснил, что GH200 объединяет в одном кристалле архитектуры центрального процессора Grace на базе Arm от Nvidia и графического процессора Hopper с использованием технологии межсоединений Nvidia NVLink-C2C.
Новый чип имеет общую пропускную способность 900 гигабайт в секунду, что в семь раз выше, чем у стандартных линий PCIe пятого поколения, используемых в самых передовых современных вычислительных системах с ускорением. Суперчип также потребляет в пять раз меньше энергии, что позволяет ему более эффективно справляться с требовательными приложениями искусственного интеллекта и высокопроизводительными вычислениями.
Суперчип Nvidia GH200 особенно перспективен для генеративных рабочих нагрузок ИИ, используемых в чат-ботах типа ChatGPT от OpenAI.
«Генеративный ИИ быстро меняет бизнес, открывая новые возможности и ускоряя открытия в здравоохранении, финансах, бизнес-услугах и многих других отраслях», — сказал Ян Бак, вице-президент Nvidia по ускоренным вычислениям. «С запуском производства суперчипов Grace Hopper производители по всему миру скоро смогут предоставлять инфраструктуру ускоренных вычислений, необходимую предприятиям для создания и развертывания генеративных приложений ИИ, использующих их собственные уникальные данные».
Одной из первых систем, в которую будет интегрирован суперчип GH200, станет Nvidia DGX GH200 - собственный суперкомпьютер Nvidia нового поколения с искусственным интеллектом и большой памятью. В нем используется система коммутации NVLink для объединения 256 суперчипов GH200, что позволяет им функционировать как единый графический процессор, обеспечивающий производительность в 1 экзафлоп (1 квинтиллион операций с плавающей запятой в секунду), а также 144 терабайта общей памяти. Это означает, что у него почти в 500 раз больше памяти, чем у суперкомпьютера Nvidia DGX A100 предыдущего поколения, выпущенного в 2020 году. Он также намного мощнее, так как DGX A100 объединяет всего восемь графических процессоров в одном чипе.
«Суперкомпьютеры с искусственным интеллектом DGX GH200 объединяют самые передовые технологии ускоренных вычислений и сетевых технологий Nvidia, что позволяет расширять границы искусственного интеллекта», — сказал Хуанг.
