HPE и Dell представляют новую серию серверов с искусственным интеллектом
Корпорация Hewlett Packard представила новый сервер ProLiant Compute XD685 на базе процессора AMD Epyc 5-го поколения и ускорителя Instinct MI325X для поддержки обработки естественного языка, больших языковых моделей и многомодального обучения ИИ.
ProLiant Compute XD685 имеет модульное шасси 5U, которое поддерживает широкий спектр графических и центральных процессоров, а также предлагает, как воздушное, так и прямое жидкостное охлаждение. Сервер поддерживает до восьми ускорителей Instinct MI325X с пропускной способностью памяти 6 Тбит/с.
Графический процессор Instinct оснащен разделяемой памятью HBM3E, поэтому все карты представляют собой один большой пул памяти. Таким образом, для достижения одинакового уровня производительности требуется меньше карт, что снижает общую стоимость владения.
Еще одна особенность XD685 - это набор сервисов, предоставляемых службой HPE Services, для настройки больших кластеров искусственного интеллекта. Он включает в себя помощь в настройке, проверке и тестировании для сокращения времени развертывания сервера. Безопасность системы обеспечивается с помощью технологии HPE Integrated Lights-Out (iLO), которая реализует защиту, встроенную непосредственно в кремний.
В то же время компания Dell Technologies продолжает расширять свой портфель решений на основе генеративного ИИ, представляя серию новых серверов PowerEdge.
Сервер PowerEdge XE9712 обеспечивает высокопроизводительное ускорение для обучения больших языковых моделей и вывода в реальном времени крупномасштабных развертываний ИИ. Он использует суперчип GB200 NVL72 оснащенный 36 процессорами NVIDIA Grace и 72 графическими процессорами NVIDIA Blackwell в стоечном исполнении. 72 графических процессора соединены через домен NVLink, который действует как один графический процессор, обеспечивая до 30 раз более быстрый вывод в реальном времени языковых моделей с триллионами параметров.
Еще один новый сервер Dell PowerEdge M7725 разработан для высокопроизводительных вычислений, которые идеально подходят для исследовательских решений, финтех-сред и высшего образования. Dell PowerEdge M7725 масштабируется от 24K до 27K ядер на стойку с 64 или 72 двухсокетными узлами, использующими процессоры AMD Epyc 5-го поколения. Сервер использует как прямое жидкостное, так и воздушное охлаждение.
Помимо этого, Dell предлагает неструктурированное хранение и управление данными с помощью своих устройств PowerScale для повышения производительности приложений искусственного интеллекта и упрощения глобального управления данными.
