Все о Цифровых системах - новости, статьи, обзоры, аналитика. Более 1000 компаний, товаров и услуг в каталоге.
Добавить компанию

Nvidia выпускает микросервисы для защиты агентов ИИ

Рубрики: «Искусственный интеллект (AI)», «Информационная безопасность»

Агенты искусственного интеллекта (ИИ) – это автономные интеллектуальные системы, которые выполняют определенные задачи без вмешательства человека. Люди ставят им цели, но агенты ИИ самостоятельно выбирают наилучшие действия, которые необходимо выполнить для достижения этих целей. Агентский искусственный интеллект может изменить то, как работники умственного труда выполняют свои задачи, и то как клиенты «общаются» с брендами. Однако большие языковые модели, на которых основаны агенты ИИ, могут выйти из-под контроля и выдавать нежелательные ответы или создавать проблемы с безопасностью.

Nvidia NIM - это набор контейнерных микросервисов, предназначенных для ускорения развертывания моделей искусственного интеллекта, а NeMo Guardrails - защитная платформа для разработчиков, которая модифицирует модели искусственного интеллекта, позволяя им создавать более безопасных и заслуживающих доверия агентов искусственного интеллекта.

Корпорация Nvidia анонсировала три микросервиса NIM, которые охватывают:

  • управление темами (topic control),
  • безопасность контента (content safety),
  • защиту от джейлбрейка (jailbreak protection).

Эти микросервисы представляют собой оптимизированные небольшие, легкие модели ИИ, которые для повышения производительности приложений модерируют ответы более крупной модели.

«Один из новых микросервисов, созданный для обеспечения безопасности контента, был обучен с использованием набора данных Aegis Content Safety — одного из самых качественных источников данных с комментариями, созданными человеком», - сказал Кари Бриски, вице-президент Nvidia по корпоративным моделям ИИ, программному обеспечению и сервисам.

Например, NIM управления темами помогает агентам ИИ не стать слишком «разговорчивыми» и не отклоняться от своей первоначальной задачи, удерживая их в рамках темы. Чем дольше длится беседа с чат-ботом с искусственным интеллектом, тем больше вероятность того, что он начнет забывать первоначальную цель беседы, и разговор может уйти далеко в сторону. Хотя это может быть хорошо для людей, но это плохо для чат-ботов, особенно для корпоративных агентов искусственного интеллекта, которые могут начать говорить об известных рок-звездах или конкурирующих производителях.

«Небольшие языковые модели, типа тех, что имеются в коллекции платформы NeMo Guardrails, обеспечивают меньшую задержку и предназначены для эффективной работы в средах с ограниченными ресурсами или в распределенных средах», — сказал Бриски. «Это делает их идеальными для масштабирования приложений ИИ в таких отраслях, как здравоохранение, автомобилестроение, производство».

Подход NIM позволяет разработчикам устанавливать несколько защит с минимальной дополнительной задержкой или с минимальным увеличением времени отклика. Это очень важно для большинства приложений с генеративным ИИ, поскольку пользователям не нравится ждать, наблюдая за мигающими тремя точками или вращающимся кругом, прежде чем появится текст или зазвучит голос.

«Мы всегда ищем способы помочь сотрудникам превзойти ожидания наших клиентов», — сказал Чандху Наир, старший вице-президент по данным, ИИ и инновациям в розничной торговой сети Lowe's Cos. Inc. «Благодаря нашим недавним развертываниям Nvidia NeMo Guardrails мы гарантируем, что генерируемые ИИ ответы будут безопасными, надежными и защищенными, устанавливая границы разговора для предоставления только релевантного и подходящего контента».

Источник: