Broadcom выпускает чип Jericho для развития сетей ЦОД на базе ИИ
Разработанный специально для удовлетворения растущих потребностей распределенной инфраструктуры ИИ, Jericho4 обеспечивает впечатляющую пропускную способность Ethernet в 51,2 Тбит/сек с глубокой буферизацией без потерь. Благодаря этому рабочие нагрузки ИИ можно легко масштабировать между стойками, кластерами и даже географически разнесенными площадками без ущерба для надежности или производительности.
Безопасность при передаче данных за пределы физических стен центра обработки данных имеет решающее значение для облачных компаний из-за потенциальных атак, которые могут перехватить данные до того, как они достигнут места назначения.
Рэм Велага, старший вице-президент и генеральный директор Broadcom Core Switching Group, сказал: «Инженеры Broadcom разработали чипы Jericho для масштабного развертывания, а одна система может включать в себя около 4500 чипов».
Чтобы помочь снизить проблемы, связанные с перегрузкой сети, чипы Jericho4 используют те же разработчики памяти с высокой пропускной способностью (HBM), как у процессоров искусственного интеллекта от Nvidia и AMD.
«Коммутатор фактически удерживает этот трафик (в памяти) до тех пор, пока не снизится нагрузка», — сказал Велага. «Это означает, что на чипе должен быть большой объём памяти».
Чем больше расстояние, которое данные должны пройти от чипа до места назначения, тем больше памяти разработчикам необходимо включить в чип. Помимо повышения производительности, чип Jericho4 также повышает безопасность за счет шифрования данных.
Семейство Jericho4 предоставляет ряд функций, отвечающих конкретным потребностям рабочих нагрузок ИИ.
- Масштабируемая пропускная способность 51,2 Тбит/сек с глубокой буферизацией: семейство Jericho4 обеспечивает впечатляющую коммутационную способность 51,2 Тбит/с, одну из самых высоких в отрасли. Такая пропускная способность критически важна для задач ИИ, требующих перемещения больших объёмов данных между тысячами графических процессоров или ускорителей. Функция «глубокой буферизации» позволяет обрабатывать значительные пакеты данных без потерь, обеспечивая высокую производительность и надёжность при распределённом обучении ИИ даже в условиях перегрузки сети.
- Интерфейсы HyperPort 3.2T: HyperPort объединяет четыре порта 800 Gigabit Ethernet (800GE) в один канал 3,2 терабита в секунду (3.2T), упрощая проектирование и управление сетью. Это сокращает количество необходимых соединений между коммутаторами и серверами, минимизируя переупорядочивание пакетов и неэффективность сети. В результате пользователи могут выполнять задачи на 40% быстрее и использовать сеть на 70% эффективнее, что приводит к ускорению обучения моделей искусственного интеллекта и более эффективному использованию вычислительных ресурсов.
- MACsec с линейной скоростью и более чем 200 000 политик безопасности: MACsec (Media Access Control Security) — это стандарт шифрования данных на уровне Ethernet. Коммутатор Jericho4 поддерживает MACsec на полной линейной скорости, обеспечивая шифрование и дешифрование без потери производительности. Благодаря поддержке более 200 000 политик безопасности он обеспечивает детальный контроль безопасности, критически важный для многопользовательских сред.
- Сквозное управление перегрузкой и передача данных без потерь RoCE: рабочие нагрузки ИИ подвержены перегрузке сети и потере пакетов, что может замедлить распределённое обучение. Архитектура Jericho4 с глубокой буферизацией и аппаратное управление перегрузкой обеспечивают передачу данных без потерь с использованием RoCE (RDMA over Converged Ethernet), гарантируя надёжную передачу данных на расстояния более 100 километров. Эти функции критически важны для подключения распределённых центров обработки данных или кластеров ИИ, обеспечивая стабильную производительность и надёжность.
- Снижение энергопотребления на 40% на бит: энергоэффективность критически важна по мере роста центров обработки данных для поддержки более крупных моделей ИИ и большего числа пользователей. Архитектура Jericho4 обеспечивает снижение энергопотребления на 40% на бит передаваемых данных по сравнению с предыдущими поколениями. Это снижает эксплуатационные расходы и помогает организациям достигать целей устойчивого развития, масштабируя инфраструктуру ИИ без значительного увеличения энергопотребления.
- 200G PAM4 SerDes с лидирующей в отрасли дальностью передачи данных: технология SerDes (сериализатор/десериализатор) обеспечивает высокоскоростную передачу данных по медным или оптоволоконным линиям связи. Чип Jericho4 поддерживает 200G PAM4 SerDes, обеспечивая более высокую скорость передачи данных на большие расстояния по сравнению с предыдущими технологиями. Это позволяет коммутаторам и серверам подключаться к крупным кампусам центров обработки данных или к разным зданиям без ущерба для скорости и надежности.
- Соответствие стандартам консорциума Ultra Ethernet: консорциум Ultra Ethernet продвигает стандарты Ethernet для высокопроизводительных вычислений и искусственного интеллекта. Соответствие Jericho4 стандартам обеспечивает полную совместимость с другими устройствами Ultra Ethernet, защищая инвестиции и подготавливая сеть к будущим нагрузкам искусственного интеллекта и облачных вычислений.
- Независимость от конечной точки: Jericho4 совместим с любой сетевой картой (NIC) или процессором XPU, например, графическими процессорами или процессорами обработки данных, использующими Ethernet. Эта гибкость позволяет организациям интегрировать различные вычислительные и хранилищные конечные точки, поддерживая разнообразные архитектуры ИИ и решения от разных поставщиков, не ограничиваясь одной экосистемой.
- Сетевое взаимодействие с ИИ: Архитектура Jericho4 выделяется своей способностью управлять постоянными потоками трафика ИИ с высокой пропускной способностью. Благодаря использованию технологии HyperPort она устраняет традиционные узкие места и неэффективность, обеспечивая более высокую пропускную способность и меньшую задержку для масштабируемых сетей ИИ. Это особенно важно, поскольку организации разворачивают рабочие нагрузки ИИ в кампусах, городских районах и даже в более широких географических зонах.
Полевые испытания продемонстрировали надёжность и эффективность Jericho4, поддерживающего масштабируемые проекты ИИ на расстояниях более 100 км. Это делает Jericho4 ключевым решением для распределённой инфраструктуры ИИ следующего поколения.
