Microsoft разрабатывает специальную сетевую карту для своих ЦОД
Серверы в центре обработки данных связаны между собой сетью, которая позволяет им обмениваться информацией друг с другом. Трафик не передается напрямую от сервера к сети центра обработки данных, а проходит через посредника, известного как сетевая карта или адаптер. Это специализированный чип, который помогает направить каждый пакет к месту назначения и часто выполняет сопутствующие задачи, такие как оптимизация скорости соединения.
Издание The Information сообщает, что Microsoft планирует использовать специальную сетевую карту в своей инфраструктуре искусственного интеллекта (ИИ). В частности, основное внимание уделяется управлению сетевым трафиком серверов, оснащенных видеокартами корпорации Nvidia. Microsoft надеется, что эта специальная карта поможет ускорить рабочие нагрузки искусственного интеллекта и снизить затраты на закупку оборудования.
По сообщениям источника, карта будет аналогична сетевому адаптеру Nvidia ConnectX-7, который способен обрабатывать до 400 гигабит трафика в секунду. Он поддерживает два стандарта связи (Ethernet и InfiniBand), на которых основано большинство сетей центров обработки данных.
Для координации своей работы серверам, составляющим кластер искусственного интеллекта, требуется возможность совместного использования данных, хранящихся в соответствующих пулах памяти. Запросы на совместное использование данных обычно должны проходить через центральный процессор сервера. Адаптер Nvidia ConnectX-7 включает в себя технологию под названием RDMA, которая обходит центральный процессор, что значительно ускоряет извлечение данных.
Карта также имеет несколько других функций оптимизации производительности. Примечательно, что она может выполнять задачи кибербезопасности, такие как шифрование трафика данных, высвобождая ресурсы процессора для выполнения других приложений. ConnectX-7 также разгружает процессор от некоторых вычислений, связанных с обнаружением ошибок передачи данных.
Microsoft попытается реализовать все эти функции в своей собственной сетевой карте. Исследователи компании разработали чип, который, как и Nvidia ConnectX-7, может выполнять определенные задачи в плане кибербезопасности и разгружать процессор от связанных с ними вычислений, что повышает производительность других приложений.
