ITGLOBAL.COM расширяет испытания ИИ-файрвола для защиты корпоративных данных и ИИ-агентов

ITGLOBAL.COM (корпорация ITG) продолжает разработку и тестирование собственного ИИ-файрвола — модуля безопасности для сервиса AIaaS. Решение контролирует обмен данными между корпоративными приложениями, языковыми моделями и ИИ-агентами. На последнем этапе команда провела 625 проверок, включающих различные сценарии атак, обычные рабочие запросы и сравнительные испытания режимов защиты.

Файрвол снижает риск утечки конфиденциальной информации и предотвращает несанкционированные действия агентов. Он анализирует запросы пользователей, ответы моделей, загружаемые документы и обращения агентов к внешним инструментам.

Программа испытаний охватывает несколько сотен вариантов потенциальных атак. Разработчики проверяют попытки обойти ограничения моделей, внедрение скрытых инструкций в документы и переписку, передачу паролей, ключей доступа и персональных данных. Особое внимание они уделяют безопасности ИИ-агентов, которые взаимодействуют с корпоративными системами через инструменты и протокол MCP.

Одна из контрольных серий включала 110 смоделированных атак шести категорий, и модуль заблокировал все из них. Отдельную выборку из 100 обычных рабочих запросов он обработал без ложных блокировок. Затем команда расширила набор сценариев и выявила дополнительные ограничения, которые учитывает при доработке решения.

Тестирование охватывает не только программный код. Специалисты проверяют работу установленной системы с реальными языковыми моделями, пользовательским интерфейсом Open WebUI и сетевыми MCP-клиентами. Помимо обнаружения угроз, команда оценивает производительность, управление доступом, корректность обновлений, восстановление после сбоев и передачу событий безопасности.

Каждый сценарий проходит два режима: наблюдения, когда файрвол только фиксирует подозрительные действия, и активной блокировки. Это позволяет оценить эффективность обнаружения атак и влияние на повседневную работу сотрудников.

«Для корпоративного заказчика важно, чтобы решение не только обнаруживало атаки, но и не мешало нормальной работе приложений и агентов. Поэтому мы продолжаем расширять программу тестирования, проверяем новые способы обхода ограничений и уделяем особое внимание ложным срабатываниям. Наша задача — создать инструмент, который можно будет адаптировать под реальные процессы и требования безопасности конкретной компании», — отметил Евгений Свидерский, вице-президент по облачным сервисам ITGLOBAL.COM, корпорации ITG.

В рамках дальнейшей работы ITGLOBAL.COM планирует проводить испытания на реальных задачах заказчиков. Режим наблюдения позволит предварительно оценить потенциальные угрозы и настроить политики безопасности до включения активной блокировки.

ITGLOBAL.COM разрабатывает ИИ-файрвол для платформы AIaaS, которая предоставляет компаниям доступ к российским и зарубежным языковым моделям через единый API. Новый модуль дополнит сервис средствами контроля ИИ-трафика, защиты корпоративных данных и управления безопасностью агентных систем.