Nvidia и Intel устанавливают новые стандарты производительности ИИ
Новые тесты подчеркивают впечатляющие темпы развития индустрии аппаратного обеспечения искусственного интеллекта, особенно благодаря новейшим чипам Nvidia и Intel. Тесты показывают насколько хорошо графические и центральные процессоры справляются с различными задачами, включая рабочие нагрузки вывода и обучения. В тестах MLPerf 4.0 приняли участие более 20 производителей чипов, среди которых Nvidia и Intel стали главными победителями.
Последний раз компания MLCommons публиковала результаты MLPerf 3.1 в сентябре 2023 года, и с тех пор на рынке появилось много нового оборудования, а производители чипов приняли участие в гонке по оптимизации и совершенствованию своих процессоров для ускорения искусственного интеллекта. Поэтому неудивительно, что результаты MLPerf 4.0 демонстрируют заметные улучшения у большинства участников.
В индустрии искусственного интеллекта корпорация Nvidia является доминирующим производителем чипов, и, как показывают последние тесты, для этого есть веские причины. Компания добилась впечатляющих результатов по всем направлениям, продемонстрировав улучшения не только в своем новейшем оборудовании, но и в некоторых существующих ускорителях искусственного интеллекта. Например, используя свою технологию вывода с открытым исходным кодом TensorRT-LLM, компании удалось утроить ранее измеренную производительность своего графического процессора H100 Hopper в текстовом обобщении.
Nvidia также продемонстрировала результаты своего нового графического процессора H200, который представляет собой второе поколение графического процессора на базе архитектуры Grace Hopper. Данный чип продемонстрировал значительные улучшения по сравнению с H100. Например, при тестировании на логический вывод на Llama 2 он был на 45% быстрее.
Компания Intel более известна не графическими, а центральными процессорами (ЦП). Это значит, что в индустрии искусственного интеллекта, которая ценит именно графические чипы, компания отстает. Тем не менее, Intel все же конкурирует в индустрии графических процессоров со своим чипом-ускорителем искусственного интеллекта Intel Gaudi 2. Компания подчеркнула, что в настоящее время это единственная проверенная альтернатива графическим процессорам Nvidia.
Intel участвовала в тестах MLPerf 4.0 вместе с процессорами Gaudi и Xeon, и оба показали впечатляющий прирост по сравнению с предыдущим набором тестов. Хотя общая производительность Gaudi по-прежнему отстает от Nvidia H100, Intel заявила, что ее процессоры обеспечивают лучшее соотношение цены и качества.
Кроме того, процессор Intel Xeon 5-го поколения в тесте логического вывода на Llama 2 продемонстрировал значительное улучшение производительности, работая в 1,4 раза быстрее, чем старый процессор Intel Xeon 4-го поколения. В тесте обобщения текста GPT-J LLM последний чип Xeon показал, что он в 1,9 раза быстрее своего предшественника.
Полученные результаты являются весьма важными, поскольку, хотя самые мощные модели ИИ обучаются на графических процессорах и используют их для вывода, многие модели меньшего размера могут запускаться на центральных процессорах, которые намного дешевле и их легче получить.
Основатель и исполнительный директор MLCommons Дэвид Кантер, сказал: «Цель состоит не просто в том, чтобы показать, какой тип чипа лучше всего подходит в том или ином сценарии, но и в том, чтобы установить показатели производительности, на основе которых производители чипов могут улучшить возможности своих продуктов. Вся суть в том, что как только мы сможем измерить эти вещи, мы сможем начать их улучшать».
