AWS делает ставку на жидкостное охлаждение для своих серверов ИИ
Важной новостью является то, что AWS скоро начнет использовать жидкостное охлаждение для своих серверов искусственного интеллекта (ИИ) и других машин, независимо от того, основаны ли они на ее собственных чипах Trainium или на ускорителях Nvidia. В частности, AWS отмечает, что ее чипы Trainium2 и «решения для суперкомпьютеров ИИ, такие как NVIDIA GB200 NVL72» будут охлаждаться именно таким образом.
AWS подчеркивает, что эти обновленные системы охлаждения могут интегрировать как воздушное, так и жидкостное охлаждение. В центрах обработки данных есть много серверов, которым достаточно воздушного охлаждения, например, сервера обрабатывающие сетевое взаимодействие или хранение данных.
«Эта гибкая, мультимодальная конструкция охлаждения позволяет AWS обеспечивать максимальную производительность и эффективность при минимальных затратах, будь то запуск традиционных рабочих нагрузок или моделей ИИ», — пояснили в AWS.
Компания также объявила о переходе на более упрощенные электрические и механические конструкции своих серверов и серверных стоек.
«Последние усовершенствования в дизайне центров обработки данных AWS включают упрощенные электрические распределительные и механические системы, которые обеспечивают доступность инфраструктуры 99,9999%. Упрощенные системы также сокращают потенциальное количество стоек, которые могут быть затронуты электрическими проблемами, на 89%», — отмечает компания.
Частично AWS делает это, сокращая количество преобразований электроэнергии на пути от электрической сети к серверу. Компания не предоставила более подробной информации, но это, вероятно, означает использование постоянного тока для работы серверов и/или системы охлаждения и избежание многих этапов преобразования переменного тока в постоянный (с их потерями по умолчанию).
«AWS продолжает неустанно совершенствовать свою инфраструктуру, чтобы построить самое производительное, безопасное и устойчивое облако для клиентов по всему миру», — сказал Прасад Кальянараман, вице-президент по инфраструктурным сервисам в AWS. «Эти возможности центра обработки данных представляют собой важный шаг вперед благодаря повышению энергоэффективности и гибкой поддержке возникающих рабочих нагрузок. Но что еще более интересно, так это то, что они спроектированы как модульные, так что мы можем модернизировать нашу существующую инфраструктуру жидкостного охлаждения и повышения энергоэффективности для использования в приложениях искусственного интеллекта и снижения выбросов углекислого газа».
В целом, по данным AWS, новая мультимодальная система охлаждения и модернизированная система подачи питания позволят организации «поддерживать шестикратное увеличение плотности мощности стойки в течение следующих двух лет и еще трехкратное увеличение в будущем».
AWS также отмечает, что теперь использует искусственный интеллект для прогнозирования наиболее эффективного способа размещения стоек в центре обработки данных, чтобы сократить объем неиспользуемой или недоиспользуемой мощности. AWS также развернет собственную систему управления для всех своих электрических и механических устройств в центре обработки данных, которая будет поставляться со встроенными телеметрическими службами для диагностики и устранения неполадок в реальном времени.
