Все о Цифровых системах - новости, статьи, обзоры, аналитика. Более 1000 компаний, товаров и услуг в каталоге.
Добавить компанию

Cerebras Systems представила суперкомпьютер ИИ с более чем 13,5 млн процессорных ядер

Рубрики: «Искусственный интеллект (AI)», «Суперкомпьютеры»

Суперкомпьютер Cerebras с 13,5 млн процессорных ядер

Компания Cerebras Systems из Саннивейла, штат Калифорния, получила более 720 миллионов долларов венчурного финансирования. Стартап продает чип под названием WSE-2, специально разработанный для запуска программного обеспечения ИИ. Новый суперкомпьютер Andromeda, который представила Cerebras Systems, основан на чипе WSE-2.

Согласно заявлению Cerebras Systems, при запуске приложений ИИ Andromeda может обеспечить производительность, превышающую один экзафлопс. Один экзафлоп равен 1 миллиону триллионов вычислений в секунду. Стартап заявляет, что производительность Andromeda делает его, помимо прочего, подходящим для обучения большим языковым моделям, которые представляют собой сложные нейронные сети, способные выполнять такие задачи, как перевод текста и генерация программного кода.

В Andromeda установлено 16 чипов Cerebras Systems WSE-2. Каждый WSE-2, в свою очередь, включает в себя более 2,6 трлн транзисторов, что примерно на 2,5 трлн транзисторов больше, чем у большинства передовых графических процессоров на рынке. Стартап описывает чип как самый быстрый в мире процессор искусственного интеллекта.

Процессоры WSE-2 сделаны из кремниевых дисков, известных как пластины. В процессе производства чипа пластина разбивается на десятки прямоугольников, каждый из которых затем превращается в отдельный процессор. Cerebras Systems применила другой подход к своему чипу WSE-2: вместо того, чтобы разбивать пластину на десятки маленьких процессоров, стартап превращает ее в один большой процессор с триллионами транзисторов

Cerebras Systems продает WSE-2 как часть устройства центра обработки данных под названием CS-2. Система CS-2 содержит один чип WSE-2, а также охлаждающее оборудование, сетевое оборудование и другие вспомогательные компоненты, облегчающие использование чипа. Суперкомпьютер Andromeda, представленный Cerebras, состоит из 16 устройств CS-2, объединенных в кластер. Суперкомпьютер также оснащен 18’176 чипами из серии центральных процессоров Ryzen от Advanced Micro Devices Inc (AMD).

«Комбинация суперкомпьютера искусственного интеллекта Cerebras Andromeda и конвейера предварительной обработки данных, работающего на серверах AMD EPYC, вместе предоставит исследователям больше производительности и будет поддерживать более быстрые и глубокие возможности искусственного интеллекта», - сказал Кумаран Сива, корпоративный вице-президент AMD по разработке программного обеспечения и систем.

Расширенные приложения ИИ, такие как большие языковые модели, часто слишком сложны для запуска на одном чипе. В результате их приходится распределять по нескольким процессорам, обычно графическим. Эти графические процессоры должны координировать свою работу, чтобы гарантировать точное выполнение вычислений. Координация большого количества микросхем — сложная задача, требующая аппаратно-емких алгоритмов. Чем больше микросхем в центре обработки данных, тем больше вычислительных мощностей требуется для их организации. В результате значительная часть вычислительной мощности в больших кластерах ИИ уходит на поддержание синхронизации чипов.

Как уже говорилось выше, суперкомпьютер Andromeda состоит из 16 систем CS-2, каждая из которых включает в себя один чип WSE-2. 16 чипов WSE-2 суперкомпьютера могут быть скоординированы со значительно меньшими аппаратными ресурсами, чем традиционный кластер ИИ, который содержит более тысячи графических процессоров. В результате, Andromeda обеспечивает почти идеальное линейное масштабирование. Когда клиенты масштабируют суперкомпьютер, подключая дополнительные системы CS-2, для приложений ИИ становится доступной почти вся вычислительная мощность систем. Причина в том, что для задач координации микросхем требуется относительно мало оборудования.

Cerebras Systems уже сделала Andromeda доступным для первых пользователей. Суперкомпьютер используется учеными из Аргоннской национальной лаборатории, Кембриджского университета и Jasper Inc., стартапа в области искусственного интеллекта, который в прошлом месяце привлек финансирование в размере 125 миллионов долларов.

Источник: