Google Cloud представляет Agent Compute Engine — новую платформу для автономных ИИ-агентов
Как известно, для безопасной работы ИИ-агентов используются специальные изолированные среды — так называемые «песочницы». В них агенты получают доступ к необходимым приложениям, данным и инструментам, позволяющим выполнять поставленные задачи. При этом изоляция защищает основную систему и другие приложения от возможных ошибок и вредоносных действий. В сервисе Agent Compute Engine компания Google реализовала такие среды на основе «микровиртуальных машин» (microVM). По заявлению разработчиков, эта технология сочетает высокую производительность и экономичное использование ресурсов, характерные для контейнеров, с надёжной защитой традиционных виртуальных машин. Главное преимущество такого подхода — изоляция каждого ИИ-агента в собственной защищённой среде. Для этого используются механизмы гипервизора — программного обеспечения, управляющего виртуальными машинами и разграничивающего их доступ к ресурсам. Благодаря этому потенциально опасные действия одного агента не должны затрагивать работу других агентов или основной системы.
Для работы микровиртуальных машин Google использует специально настроенные серверы, обеспечивающие дополнительный уровень защиты данных. Эти серверы работают по принципу отсутствия постоянного хранения информации: после завершения работы ИИ-агента его временные файлы и данные не сохраняются на самом устройстве. При этом системные файлы размещаются в защищённой файловой системе, содержимое которой нельзя изменить или удалить во время работы.
Дополнительную безопасность обеспечивают специализированные чипы Google Titan, которые проверяют целостность встроенного программного обеспечения серверов и помогают обнаруживать несанкционированные изменения. Кроме того, процессоры Titan оснащены средствами защиты от так называемых атак по побочным каналам. При таких атаках злоумышленники пытаются получить конфиденциальную информацию, анализируя косвенные признаки работы процессора — например, особенности энергопотребления или время выполнения операций. Специальные механизмы защиты снижают риск утечки данных подобным способом.
Микровиртуальные машины в Agent Compute Engine имеют строго ограниченный доступ к системным ресурсам и хранилищам данных. Благодаря этому даже при взломе одного из ИИ-агентов злоумышленнику будет значительно сложнее получить доступ к информации других пользователей или нарушить работу всей системы. Дополнительную защиту обеспечивает многоуровневая система контроля сетевого трафика. Все соединения микровиртуальных машин с внешними сервисами проходят через специальные промежуточные серверы — прокси, которые позволяют контролировать обмен данными и ограничивать нежелательную сетевую активность.
«Весь входящий и исходящий трафик должен проходить через изолированную, точечную границу межпроцессного взаимодействия (IPC)», — пояснили ведущие инженеры Google Cloud Раманатхан Венкатапати и Рохит Джнагал в своем блоге . «Эта граница заканчивается локальным, непривилегированным прокси-сервером, который пересылает пакеты на внешний прокси-сервер. Затем внешний шлюз проверяет области действия запросов и обеспечивает строгий, управляемый политиками, брокеринг исходящего трафика».
Ещё одна важная особенность Agent Compute Engine — эффективное использование вычислительных ресурсов. В процессе выполнения задач ИИ-агенты нередко переходят в режим ожидания, например когда им необходимо дождаться ответа пользователя или поступления новых данных. При традиционном подходе выделенная агенту виртуальная среда продолжает занимать ресурсы сервера даже во время простоя, увеличивая расходы на инфраструктуру. Google предлагает более экономичное решение: Agent Compute Engine автоматически приостанавливает неактивные микровиртуальные машины, освобождая вычислительные ресурсы. При возобновлении работы агента система быстро восстанавливает его рабочую среду и позволяет продолжить выполнение задачи с сохранённого состояния. Такой подход помогает снизить затраты на эксплуатацию ИИ-агентов, особенно в корпоративных системах, где одновременно могут работать тысячи цифровых помощников.
«Это позволяет одному физическому узлу размещать на порядки больше работающих микровиртуальных машин агентов, чем обычных виртуальных машин», — написали Венкатапати и Джнагал. «Мы сочетаем это с функциями, неотъемлемыми для агентов, такими как клонирование, создание снимков/разветвление, откат и возврат, которые позволяют системам эффективно использовать ресурсы без дублирования».
Также для взаимодействия с внешними приложениями ИИ-агентам часто требуются учётные данные — например, пароли или специальные ключи доступа (API-ключи). В Agent Compute Engine компания Google предусмотрела дополнительный механизм их защиты: конфиденциальная информация хранится отдельно от виртуальной среды, в которой работает агент. Это значительно снижает риск её кражи даже в случае взлома одной из микровиртуальных машин. За безопасное подключение агентов к внешним сервисам отвечает специальный компонент Agent Gateway. Когда ИИ-агенту необходимо обратиться к приложению, Agent Gateway самостоятельно получает нужные учётные данные и выполняет авторизацию от его имени. Таким образом, агент может пользоваться необходимыми сервисами, не получая прямого доступа к паролям и ключам.
В ближайшие месяцы Google планирует представить Agent Compute Engine вместе с обновлённой версией Agent Gateway. Помимо контроля безопасности сетевых соединений, сервис получит функцию «интеллектуального распределения запросов между различными моделями искусственного интеллекта». Это позволит автоматически выбирать наиболее подходящую модель для каждой задачи с учётом эффективности её выполнения. Ещё одним нововведением станут инструменты управления вычислительными расходами. Компании смогут контролировать затраты на работу ИИ-агентов и оптимизировать использование облачных ресурсов.
«Управление токенами позволяет контролировать их использование различными ИИ-агентами и моделями, отслеживать связанные с этим расходы, устанавливать бюджетные ограничения и получать достоверные данные о потреблении токенов из единого источника», — написали в блоге Google Cloud вице-президенты компании Нирав Мехта, Майкл Бахман и Кевин Хатчинс.
