AMD использует платформу Rapt AI для повышения эффективности использования графических процессоров
Многие предприятия испытывают трудности с управлением своими приложениями искусственного интеллекта. Проблема возникает из-за того, что для поддержки самых сложных рабочих нагрузок клиенты должны полагаться на огромные кластеры графических процессоров, при этом многие испытывают трудности с эффективным управлением вычислительными ресурсами. Таким образом, существует острая необходимость в более эффективном распределении этих ресурсов, чтобы избежать узких мест производительности для рабочих нагрузок графических процессоров.
Компания Rapt AI — создатель интеллектуальной платформы, которая использует возможности искусственного интеллекта для автоматизации управления рабочей нагрузкой на высокопроизводительных графических процессорах. Платформа помогает максимизировать производительность и масштабируемость, упростить развертывание приложений и сократить накладные расходы на приложения искусственного интеллекта.
«По мере того как все больше организаций переходят на производственный искусственный интеллект, первостепенное значение приобретает повышение эффективности инфраструктуры и сокращение затрат», - сказал технический директор Rapt AI Анил Равиндранат.
Программное обеспечение Rapt AI предназначено для работы с ускорителями AMD Instinct, такими как MI300X, MI325X и графическими процессорами MI350, которые являются альтернативой более известным ускорителям искусственного интеллекта H100, H200 и Blackwell от компании Nvidia.
Используя программное обеспечение автоматизации Rapt AI для интеллектуального управления парком графических процессоров AMD, компании могут рассчитывать на максимальную производительность своих процессоров для любых видов рабочей нагрузки ИИ, гарантируя полное использование этих ресурсов.
Программное обеспечение также помогает упростить развертывание приложений искусственного интеллекта как в локальных, так и в облачных средах. Оно позволяет автоматически настраивать наиболее оптимальный баланс рабочей нагрузки, даже в разнообразных вычислительных кластерах, состоящих из нескольких типов графических процессоров. Это экономит организациям часы рабочего времени, которые уходят на эксперименты с различными конфигурациями инфраструктуры. Результатом становится улучшение эффективности вывода и обучения, а также повышение масштабируемости для производственных развертываний ИИ.
Сотрудничество AMD с Rapt AI означает, что программное обеспечение будет идеально работать «из коробки» со всеми графическими процессорами AMD Instinct, помогая заказчикам добиться немедленного повышения производительности за счет простого развертывания. Более того, компании планируют сотрудничать в будущем, чтобы обеспечить дальнейшую оптимизацию в таких областях, как планирование графических процессоров, использование памяти и многое другое, постоянно повышая производительность и обеспечивая клиентам доступ к наиболее оптимальной и экономичной инфраструктуре искусственного интеллекта.
«Это совместное решение призвано трансформировать управление инфраструктурой ИИ, обеспечивая более высокую производительность, экономическую эффективность и более быструю окупаемость инвестиций для наших общих клиентов», — заявил генеральный директор Rapt AI Чарли Лиминг.
