Nvidia представляет новые графические чипы, предназначенные для центров обработки данных с искусственным интеллектом
Корпорация Nvidia во вторник объявила о новых чипах и технологиях, которые повысят скорость вычислений все более сложных алгоритмов искусственного интеллекта (ИИ). В то время как остальная часть компьютерной индустрии изо всех сил пытается достичь производительности в один экзафлопс, Nvidia собирается превзойти всех с помощью суперкомпьютера, работающего на новой архитектуре графического процессора с 18 экзафлопсами.
Графический процессор H100 имеет 80 миллиардов транзисторов (для сравнения предыдущее поколение Ampere имело 54 миллиарда транзисторов) со скоростью внешнего подключения почти в 5 ТБ/с и поддержкой PCIe Gen5. Также H100 оснащен памятью с высокой пропускной способностью 3 (HBM3), обеспечивающей скорость передачи данных 3 ТБ/с. Он станет первым в новом семействе графических процессоров под названием Hopper в честь Грейс Хоппер, которая создала язык COBOL и ввела термин «компьютерный баг».
Этот графический процессор предназначен для центров обработки данных, обрабатывающих тяжелые рабочие нагрузки искусственного интеллекта. Nvidia утверждает, что 20 из них могут поддерживать эквивалент всего мирового интернет-трафика.
Хоппер также поставляется со вторым поколением технологии Nvidia Secure Multi-Instance GPU (MIG), позволяющей разделять один графический процессор для поддержки безопасности при применении несколькими арендаторами.
"Изначально H100 может разместить семь облачных арендаторов, полностью изолированных с помощью виртуализации ввода-вывода и независимо защищенных конфиденциальными вычислительными возможностями каждого экземпляра. Теперь эта вычислительная мощность может быть надежно разделена между разными пользователями и облачными арендаторами”, - сказал Пареш Харья, старший директор Nvidia по вычислениям в центрах обработки данных.
В H100 появилась новая функция конфиденциальных вычислений, которая защищает модели ИИ и данные клиентов во время их обработки. Харья отметил, что конфиденциальные данные часто шифруются в состоянии покоя, но во время передачи они зачастую остаются незащищенными. По его словам, функция конфиденциальных вычислений защищает данные во время их использования.
Hopper также оснащен NVLink четвертого поколения - технологией высокоскоростных межсоединений Nvidia. В сочетании с новым внешним коммутатором, новый NVLink может подключать до 256 графических процессоров H100 с пропускной способностью в девять раз превышающей пропускную способность предыдущего поколения.
Наконец, процессор Hopper добавляет новые DPX-инструкции для ускорения динамического программирования, практики разбиения задач с комбинаторной сложностью на более простые подзадачи. Он используется в широком спектре алгоритмов, которые применяются в геномике и оптимизации графов. По словам Харья, DPX-инструкции ускорят динамическое программирование в семь раз.
