IBM сделает чип Intel Gaudi 3 доступным в своем публичном облаке
Gaudi 3 позиционируется как альтернатива бестселлеру графического процессора H100 от Nvidia. H100 был флагманским ИИ-ускорителем производителя чипов до дебюта в марте новейшего графического процессора Nvidia Blackwell B200, который значительно быстрее, но выйдет не раньше конца этого года. Intel заявляет, что Gaudi 3 может выполнять вывод с энергоэффективностью в 2,3 раза выше, чем у H100, а для некоторых больших языковых моделей требуется меньше времени на обучение.
Gaudi 3 — это третья итерация серии процессоров искусственного интеллекта. Чип основан на пятинанометровом узле компании Taiwan Semiconductor Manufacturing Co. Вычислительная мощность Gaudi 3 обеспечивается двумя наборами встроенных вычислительных модулей, называемых MME и TPC, каждый из которых оптимизирован для своего набора задач.
Модули MME чипа предназначены для выполнения умножения матриц. Это математические вычисления, которые выполняются над наборами чисел, организованными в строки и столбцы, подобно полям в электронной таблице. Модели искусственного интеллекта используют такие вычисления для превращения входных данных в решения. Некоторые модели ИИ, например, те, которые используются для задач распознавания объектов, выполняют большую часть своей обработки с помощью умножения матриц. Более продвинутые формы ИИ, такие как большие языковые модели, используют также другие типы вычислений. Модули TPC, второй тип вычислительной схемы, включенной в чип Gaudi 3, оптимизированы именно для этих других вычислений.
Модули TPC основаны на так называемой архитектуре очень длинных командных слов. Это тип дизайна чипа, оптимизированный для параллельного выполнения нескольких вычислений. Поскольку параллельное выполнение вычислений происходит быстрее, чем последовательное, модули TPC Gaudi 3 помогают ускорить производительность моделей ИИ.
Чип Gaudi 3 включает 64 модуля TPC, что почти в три раза больше, чем у его предшественника. Также в нем в четыре раза больше вычислительных модулей MME, оптимизированных для умножения матриц. Логические схемы чипа поддерживаются пулом памяти объемом 120 гигабайт, который обеспечивает более высокую тактовую частоту, чем ОЗУ в процессоре Intel с ИИ предыдущего поколения.
Компания утверждает, что усовершенствования, внедренные в Gaudi 3, увеличивают его максимальную скорость до 1835 TFLOPS, или триллиона вычислений в секунду, при обработке данных формата BF16. Это формат данных, который обычно используется моделями ИИ для хранения информации.
Повышенная производительность Gaudi 3 - не единственное преимущество чипа. Также имеется встроенный модуль Ethernet, который можно использовать для объединения процессоров Gaudi 3 в сервер искусственного интеллекта, а также для соединения нескольких таких серверов друг с другом. Intel удвоила пропускную способность отдельных сетевых соединений Ethernet в чипе до 200 гигабит в секунду.
В начале следующего года IBM планирует сделать Gaudi 3 доступным в IBM Cloud Virtual Servers. Это вычислительные экземпляры, которые компания предоставляет на своей публичной облачной платформе. IBM также добавит поддержку Gaudi 3 в свой набор продуктов watsonx, включающих программные инструменты, которые компании могут использовать для создания моделей ИИ, развертывания их в производстве и выполнения связанных задач.
