OpenAI и Broadcom представили чип Jalapeño для выполнения задач ИИ
Этот процессор — результат сотрудничества с компанией Broadcom Inc., которая имеет большой опыт в разработке заказных микросхем. Так, например, компания помогла Google LLC разработать линейку ускорителей искусственного интеллекта на базе тензорных процессоров (TPU). В апреле поисковый гигант продлил сотрудничество с Broadcom в области производства чипов до 2031 года.
Флагманские графические карты Rubin от корпорации Nvidia могут выполнять как обучение, так и задачи искусственного интеллекта. В отличие от них, чип Jalapeño предназначен только для последнего варианта использования, а именно для запуска моделей ИИ в ответ на запросы пользователей. По данным OpenAI, предварительные тесты показывают, что чип может выполнять задачи искусственного интеллекта со значительно большей производительностью на ватт, чем «современные передовые технологии», что, вероятно, является отсылкой к чипам Nvidia.
Компания поделилась лишь несколькими подробностями о конструкции Jalapeño. В своем блоге OpenAI анонсировала, что лежащая в основе чипа «архитектура уменьшает перемещение данных». Это намек на то, что архитектура Jalapeño, возможно, разработана для уменьшения перемещения данных между логическими схемами и внешней памятью, что является одним из основных узких мест производительности в кластерах для выполнения задач ИИ.
Поставщики чипов для ИИ используют несколько подходов к сокращению передачи данных. Один из наиболее распространенных методов — оснащение ускорителя большим объемом встроенной высокоскоростной памяти SRAM. Чем больше SRAM содержит чип, тем меньше данных необходимо передавать во внешнюю память. Компании Cerebras Systems Inc. и Groq Inc. входят в число тех, кто применяет этот подход.
Компания OpenAI заявляет, что её кластеры для выполнения задач на базе процессора Jalapeño будут использовать несколько сетевых технологий Broadcom. Одна из них — серия чипов Tomahawk, предназначенная для питания коммутаторов Ethernet. Коммутаторы на базе Tomahawk могут использоваться для передачи данных как между серверами в одной стойке, так и между стойками.
Новейший чип Broadcom Tomahawk 6 способен обрабатывать до 1,6 терабит трафика в секунду. Встроенный механизм управления перегрузкой устраняет узкие места в сети, которые могут замедлять соединение.
Компания OpenAI планирует развернуть Jalapeño и сетевое оборудование, поставляемое Broadcom, в специализированных серверных стойках. Разработчик ChatGPT создает эти системы в сотрудничестве с Celestia Inc. - компанией из Торонто, предоставляющей услуги по проектированию оборудования для центров обработки данных. Компания также помогает клиентам оптимизировать их производственные линии по выпуску серверов.
К концу года OpenAI запустит свои первые серверы на базе чипа Jalapeño. Планируется постепенно расширять его использование. В своем блоге компания описывает Jalapeño как «первый шаг в создании вычислительной платформы нескольких поколений», что намекает на возможные планы по разработке в будущем дополнительных процессоров для вывода результатов искусственного интеллекта. Другая возможность заключается в том, что OpenAI разработает специализированные чипы для смежных областей применения, таких как обучение моделей.
Новый чип Jalapeño может открыть для компании дополнительные источники дохода. Nvidia продает свои видеокарты в составе систем, называемых устройствами DGX, которые также включают центральные процессоры, модули охлаждения и другое оборудование. У OpenAI есть ресурсы для вывода на рынок конкурирующих устройств на базе Jalapeño. Используя такие системы клиенты смогут запускать свои модели искусственного интеллекта локально.
Выход на прибыльный рынок аппаратного обеспечения для ИИ может не только увеличить выручку OpenAI, но и повысить интерес инвесторов к предстоящему публичному размещению акций. Главный конкурент OpenAI, компания Anthropic PBC, недавно подала заявку на собственное размещение. Предложение аппаратного обеспечения для обработки данных может стать ценным конкурентным преимуществом для OpenAI во время роуд-шоу, особенно если Anthropic выйдет на биржу первой.
