Google представляет TorchTPU, стремясь ослабить монополию Nvidia на вычислительные ресурсы для ИИ
Одна из причин, по которой Nvidia и ее графические процессоры остаются доминирующими в индустрии искусственного интеллекта, заключается в том, что подавляющее большинство ИИ-приложений написаны специально для работы на графических процессорах Nvidia. Именно эту ситуацию Google пытается изменить с помощью данного релиза.
PyTorch — это популярный набор инструментов с открытым исходным кодом, который разработчики используют для создания, обучения и запуска моделей искусственного интеллекта и нейронных сетей. По некоторым данным, более 85% всех приложений на основе искусственного интеллекта созданы с использованием PyTorch, который был разработан корпорацией Meta* в 2016 году, задолго до того, как кто-либо мог предположить, что появление больших языковых моделей приведет к буму в сфере искусственного интеллекта.
В то время графические процессоры Nvidia уже были предпочтительным оборудованием для разработчиков, занимающихся исследованиями в области искусственного интеллекта, поэтому компания Meta* разработала PyTorch специально для работы с чипами этой компании. Компания Nvidia по-прежнему уделяет особое внимание своему оборудованию, даже после того, как в 2022 году Meta* открыла исходный код PyTorch и передала управление некоммерческой организации Linux Foundation.
С помощью фреймворка TorchTPU компания Google создала альтернативную версию PyTorch, упрощающую разработчикам создание моделей и приложений, которые могут запускаться на тензорных процессорах (TPU) — специализированных чипах Google для работы с искусственным интеллектом. TorchTPU также предоставляет разработчикам простой способ запуска существующих приложений и моделей на тензорных процессорах с помощью нескольких несложных настроек без необходимости переписывать базовый код.
Google не единственная компания, которая пытается уменьшить огромное преимущество Nvidia, достигнутое благодаря PyTorch. Буквально на этой неделе компания Amazon Web Services Inc. анонсировала собственную версию PyTorch под названием TorchNeuron. Как и TorchTPU, TorchNeuron позволяет легко запускать приложения искусственного интеллекта на различном оборудовании, в данном случае на чипах Trainum от Amazon. Amazon пошла еще дальше, сообщив, что внесла свой код в исходный проект PyTorch, чтобы отделить ряд ключевых функций от графических процессоров Nvidia и сделать его более совместимым с любым оборудованием.
Однако, компания Google получила преимущество перед AWS в нескольких других аспектах. Во-первых, компания заявила, что тесно сотрудничала с Meta*, Hugging Face и парой стартапов под названием Inferact Inc. и RadixArk Inc., разработчиками vLLM и SGLang (самых популярных движков для запуска языковых моделей), чтобы обеспечить совместимость различных функций TorchTPU и библиотек кода с их инструментами для разработчиков. Таким образом, компания лишила PyTorch еще одного преимущества.
Также компания Google представила новый инструмент под названием TPU agent suite, который призван помочь разработчикам перенести свои ИИ-приложения на платформу Google Cloud и автоматически исправить любые ошибки, возникающие в процессе миграции. Кроме того, компания обновила существующий инструмент под названием LiteRT, который используется для создания ИИ-приложений, работающих непосредственно на смартфонах, ноутбуках и встроенных устройствах, а не в облаке. По словам Google, теперь он должен быть совместим с приложениями на базе PyTorch.
«Очевидно, что оба поставщика облачной инфраструктуры стремятся получить свою долю рабочих нагрузок в сфере искусственного интеллекта и понимают, что для этого им нужно угождать разработчикам. Переработка PyTorch — один из лучших способов добиться этого, поскольку он упрощает перенос кода приложений на вычислительные платформы Google и Amazon», — сказал аналитик Хольгер Мюллер из Constellation Research. «Это победа как для разработчиков, так и для компаний, потому что теперь у них больше возможностей для выбора места, где будут выполняться их задачи, связанные с искусственным интеллектом. Однако пока неясно, насколько сильно они смогут потеснить прочно укоренившуюся компанию Nvidia».
Конечно, пока этого недостаточно, чтобы убедить миллионы разработчиков отказаться от графических процессоров Nvidia и перейти на тензорные процессоры Google. Но это говорит о том, что Google уверена в своей способности в долгосрочной перспективе сократить отставание от Nvidia.
*Деятельность корпорации Meta признана экстремистской и запрещена на территории РФ.
