Nvidia представляет новейший суперкомпьютер масштаба ЦОД
Суперкомпьютер Eos назван в честь греческой богини, олицетворяющей рассвет. Он состоит из 576 систем Nvidia DGX H100 в сочетании с сетевым и программным обеспечением Quantum-2 InfiniBand, что обеспечивает в общей сложности 18,4 эксафлопс производительности искусственного интеллекта стандарта FP8. FP8 — это 8-битный стандарт с плавающей запятой, который был разработан совместно компаниями NVIDIA, ARM и Intel для ускорения разработки ИИ за счет повышения эффективности памяти во время обучения ИИ и процессов вывода.
Nvidia заявила, что создала Eos на основе знаний о предыдущих суперкомпьютерных архитектурах, включая суперкомпьютер для ИИ и глубокого обучения Nvidia SaturnV и модульный суперкомпьютер Selene. Вся архитектура системы встроена в чрезвычайно масштабный DGX SuperPOD, который позволяет системным архитекторам быстро масштабировать решения для центров обработки данных с использованием искусственного интеллекта, имеющего чрезвычайно высокую производительность.
Каждый DGX H100 поддерживает восемь гибридных процессоров (APU) с тензорным ядром H100, а сама Eos оснащена в общей сложности 4608 графическими процессорами H100. Это означает, что вся система сможет справляться с огромными рабочими нагрузками по обучению больших языковых моделей, крупномасштабной аналитике, квантовому моделированию и многому другому.
Архитектура Eos оптимизирована для рабочих нагрузок искусственного интеллекта, которые требуют сверхнизкой задержки и высокой пропускной способности в больших кластерах ускоренных вычислительных узлов. Используя собственную сетевую технологию, суперкомпьютер Nvidia может поддерживать скорость передачи данных до 400 ГБ/с, что необходимо для перемещения чрезвычайно больших наборов данных для обучения моделей искусственного интеллекта.
Интегрированное в суперкомпьютер программное обеспечение, включает такие предложения, как Base Command и AI Enterprise. Base Command обеспечивает мощное управление рабочими процессами ИИ, управление кластерами и библиотеками для ускоренных вычислений, хранения данных и сетевой инфраструктуры для выполнения рабочих нагрузок искусственного интеллекта. AI Enterprise - это облачная платформа, разработанная для ускорения и оптимизации разработки приложений искусственного интеллекта, в том числе генеративного ИИ. Она также является «операционной системой» для корпоративного искусственного интеллекта.
