Nvidia объявляет о доступности набора инструментов NeMo для создания агентов ИИ
В отличие от чат-ботов с искусственным интеллектом, агенты ИИ могут выполнять автономные действия практически без участия человека, но им нужны данные для принятия точных и эффективных решений. Это особенно актуально для конфиденциальных знаний, которые могут быть скрыты за брандмауэрами компании или при использовании быстро меняющейся информации в режиме реального времени.
«Без постоянного потока высококачественных входных данных — из баз данных, взаимодействия с пользователями или сигналов реального мира — понимание агента может ухудшиться, что сделает ответы менее надежными, а значит, и менее продуктивными», — сказал Джои Конвэй, старший директор по программному обеспечению генеративного ИИ для предприятий в Nvidia.
Чтобы помочь разработчикам быстро создавать и развертывать агентов ИИ, Nvidia выпускает микросервисы NeMo, включая Customizer, Evaluator, Guardrails, Retriever и Curator. Они предназначены для упрощения работы инженеров корпоративного ИИ в создании агентов искусственного интеллекта при масштабировании и доступе к данным.
Customizer помогает в тонкой настройке больших языковых моделей, обеспечивая в 1,8 раза более высокую производительность обучения. Он предоставляет интерфейс прикладного программирования, который позволяет разработчикам быстро настраивать модели, чтобы они могли соответствовать набору данных перед его развертыванием.
Evaluator упрощает оценку моделей и рабочих процессов ИИ на основе пользовательских и отраслевых стандартов с помощью всего пяти вызовов API.
Guardrails работает поверх модели или агента искусственного интеллекта, чтобы не допустить выходящего за рамки допустимого поведения. Он может обеспечить дополнительное соответствие с эффективностью 1,4x и задержкой всего полсекунды.
Retriever дает возможность разработчикам создавать агентов, которые могут извлекать данные из систем и точно их обрабатывать. Это позволяет создавать сложные конвейеры обработки данных с использованием искусственного интеллекта, такие как генерация данных с дополненным поиском.
Curator повышает точность модели генеративного ИИ, обрабатывая текстовые, графические и видеоданные для обучения и настройки. Он также предоставляет готовые конвейеры, позволяющие генерировать синтетические данные для настройки и оценки систем генеративного ИИ.
«Микросервисы NeMo просты в эксплуатации и могут работать в любой ускоренной вычислительной инфраструктуре, как локально, так и в облаке, обеспечивая при этом безопасность, стабильность и поддержку корпоративного уровня», — добавил Конвэй.
Nvidia разработала инструменты NeMo таким образом, чтобы разработчики, обладающие общими знаниями в области искусственного интеллекта, могли получить к ним доступ с помощью вызовов API. В настоящее время предприятия начинают создавать сложные мультиагентные системы, в которых сотни опытных агентов ИИ сотрудничают с людьми в команде для достижения единых целей.
