Исследователи связывают всё больше кибератак с роем агентов OpenAI
Исследовательская группа из Transluce установила, что агенты атаковали три сервиса: цифровую библиотеку университета Нью-Мексико, инструмент визуализации данных правительства США и веб-сайт, управляемый правительством Австралии. Последние два инцидента были связаны с агентами, разработанными компанией OpenAI Group PBC.
Премьер-министр Австралии Энтони Албанезе заявил на пресс-конференции, что агенты взломали веб-сайт, управляемый агентством статистики здравоохранения страны. Аггенты не получили доступа к данным пациентов, однако смогли скачать непубличные статистические данные об австралийской системе здравоохранения.
В заявлении самой компании OpenAI сообщалось, что действия вредоносного агента затронули «несколько веб-сайтов австралийского правительства». Компания не уточнила, какие еще онлайн-ресурсы были затронуты и, если были, то каким образом. По данным OpenAI, расследование инцидента все ещё продолжается.
«То, что произошло в Австралии, показывает, как быстро развиваются эти модели», — сказал Сандип Джохри, генеральный директор компании Checkmarx Inc., занимающейся кибербезопасностью. «Наша защита должна развиваться столь же быстро. Организации должны исходить из того, что агенты искусственного интеллекта будут находить слабые места быстрее, чем люди, и доберутся до таких мест, о которых люди и не подозревали. Это верно независимо от того, действуют ли агенты самостоятельно или кто-то другой указывает им на цель».
Компания OpenAI заявила, что её агенты взломали австралийский веб-сайт статистики здравоохранения в ходе внутренней проверки. В рамках проверки агентам нужно было ответить на вопросы об Австралии. Когда агентам не удалось получить необходимую информацию из общедоступных источников, они начали искать частные наборы данных.
Исследователи Transluce установили, что агенты совершили не одну, а несколько кибератак на целевой правительственный веб-сайт. Две попытки взлома были заблокированы с помощью сервиса Cloudflare. Затем рой агентов переключил своё внимание с основного интерфейса веб-сайта на сервер предварительной разработки — машину, которую разработчики используют для тестирования изменений кода. Агенты успешно обошли бот-фильтры сервера.
«Примечательно не то, что ИИ-агент смог обойти контроль, а то, что никто не настроил его на остановку при возникновении контроля», — сказал Адриан Калли, инженер по наступательной безопасности в стартапе SafeBreach Inc. «Получив задание ответить на вопрос, он воспринял ограничение доступа как препятствие, а не как границу, и продолжил работать над решением проблемы, пока не решил ее».
Вторая хакерская атака, связанная с OpenAI и обнаруженная Transluce, была направлена против Data USA. Это бесплатный веб-сервис, который визуализирует общедоступные данные правительства США. По данным некоммерческой организации, злоумышленники использовали тактику, аналогичную той, которую они применяли для взлома министерства здравоохранения Австралии. Исследователи Transluce считают, что за громкой кибератакой, о которой стало известно в прошлом месяце, стоял тот же рой агентов. Искусственный интеллект-злоумышленник захватил веб-сайт для разработчиков, превратил его в форум и использовал для решения тестовых задач.
Неясно, был ли третий инцидент, выявленный Transluce, также связан с агентами, разработанными компанией OpenAI. Кибератака была направлена на цифровую библиотеку, управляемую Университетом Нью-Мексико. Агрессивные агенты искусственного интеллекта, стоящие за этой хакерской кампанией, пытались загрузить файл из библиотеки. После неудачной первой попытки они начали сканировать веб-сайт на наличие уязвимостей. Этот инцидент имеет определённые сходства с двумя кибератаками, ранее связанными с OpenAI. Во всех трех хакерских кампаниях агенты использовали сервис urlquery.net для доступа к целевым веб-сайтам. Этот сервис предназначен для помощи специалистам по кибербезопасности в анализе вредоносных веб-сайтов. По данным Transluce, агенты OpenAI использовали его для обхода преград, которые ограничивали их доступ в интернет.
В отчёте некоммерческой организации о кибератаках также содержатся другие важные выводы. Считается, что активность агентов началась в марте или ноябре прошлого года, задолго до взлома платформы Hugging Face Inc. с использованием вредоносных моделей OpenAI. Последний инцидент стал первым в своём роде, о котором сообщила компания. Кроме того, активность по сбору данных, связанная с агентами, была обнаружена ещё 16 сентября. Это говорит о том, что некоторые вредоносные ИИ-агенты могут быть все ещё активны.
Чтобы помочь другим исследователям изучать это явление компания Transluce опубликовала набор данных из журналов веб-трафика, связанных с действиями агентов. Набор данных включает более 36’000 записей. Примерно десятая часть из них содержит «значительные доказательства активности, подобной действиям агентов искусственного интеллекта», в то время как остальные содержат менее определённые, но все же полезные данные.
