Microsoft представляет виртуальные машины ND H100 v5 с самыми мощными графическими процессорами Nvidia
Компания заявила, что серия ее виртуальных машин ND H100 v5 теперь доступна в облаке Azure, благодаря чему клиенты получают доступ к мощной вычислительной инфраструктуре, необходимой для обучения и запуска генеративных моделей ИИ.
Кроме того, Microsoft расширяет доступность своей службы Azure OpenAI, с помощью которой клиенты могут изучать самые передовые модели искусственного интеллекта от компании OpenAI. Теперь Azure OpenAI доступен в нескольких регионах по всему миру.
Виртуальные машины Microsoft ND H100 v5 являются одними из самых мощных вычислительных решений, которые когда-либо предлагала компания. Они оснащены восемью новейшими и самыми мощными графическими процессорами H100, которые Nvidia выпустила в прошлом году. Графические процессоры H100 способны обеспечить на несколько порядков большую вычислительную мощность, чем графические процессоры A100, которые использовались для обучения оригинального ChatGPT.
Экземпляры виртуальных машин Microsoft ND H100 v5 также оснащены:
- новейшими центральными процессорами Intel Xeon Scalable 4-го поколения, которые, благодаря технологии Nvidia Quantum-2 CX7 InfiniBand, обладают малой задержкой в сети;
- интерфейсами PCIe пятого поколения, обеспечивающими пропускную способность 64 гигабайта в секунду на каждый графический процессор;
- памятью DDR5, которая обеспечивает более высокую скорость передачи для обработки самых больших наборов обучающих данных искусственного интеллекта.
Microsoft сообщила об очень высокой производительности экземпляров ND H100 v5, обещая шестикратное ускорение операций умножения матриц и 1,8-кратное ускорение вывода на больших языковых моделях, таких как GPT-BLOOM 175B от OpenAI. Компания также заявила, что предприятия могут сообщить о своей заинтересованности в новых виртуальных машинах уже сегодня, и пообещала к следующему году сделать доступными для клиентов сотни тысяч графических процессоров H100.
Служба Azure OpenAI уже используется более чем 11'000 корпоративных клиентов, а число новых пользователей увеличивается примерно на 100 в день.
«В рамках этого расширения мы увеличиваем доступность в новых регионах GPT-4 - нашей самой передовой модели генеративного ИИ», — сказал Ниди Чаппелл, генеральный менеджер Azure HPC, ИИ, SAP и конфиденциальных вычислений в Microsoft. «Это усовершенствование позволяет большему количеству клиентов использовать возможности GPT-4 для создания контента, анализа документов, обслуживания клиентов и многого другого».
