OpenAI представила модель GPT-6 Cyber, обнаружившую десятки уязвимостей
Новая модель предназначена прежде всего для специалистов по информационной безопасности, занимающихся анализом защищённости программного обеспечения. В отличие от обычных языковых моделей, GPT-6 Cyber обучена выполнять продолжительные исследования, анализировать большие программные проекты и проверять выявленные проблемы в контролируемых вычислительных средах. Главное отличие заключается в способности не только предположить наличие ошибки, но и подтвердить её практическое значение. Для этого система исследует программный код, воспроизводит условия возникновения проблемы и проверяет, действительно ли найденная уязвимость может быть использована для нарушения безопасности.
Результаты испытаний показывают существенное улучшение по сравнению с предыдущим поколением. В тесте ExploitGym, оценивающем способность ИИ эксплуатировать заранее определённые уязвимости, GPT-6 Cyber набрала 48,5% против 32,1% у GPT-5.6 Cyber. Относительное улучшение составило около 51%. В другом испытании модель исследовала веб-приложения без доступа к исходному коду. GPT-6 Cyber смогла обнаружить 40,3% уязвимостей против 32% у универсальной модели GPT-6 Astra.
Особое внимание OpenAI уделила работе с реальными программными проектами. При анализе браузера Firefox модель обнаружила 81 новую уязвимость, которые специалисты Mozilla классифицировали как опасные. Кроме того, ИИ помог установить, что ещё 30 ранее известных проблем имеют более серьёзные последствия, чем предполагалось. Исследователи передали Mozilla описания уязвимостей, воспроизводимые тесты и предложения по исправлениям, на основе которых разработчики браузера начали выпускать обновления.
«GPT-6 Cyber обнаружила ранее неизвестные серьёзные уязвимости и помогла нам выпустить исправления», — рассказал Брайан Гринстед (Brian Grinstead), ведущий инженер Firefox в компании Mozilla. «Команда Firefox уже использовала несколько поколений передовых ИИ-моделей для проверки безопасности браузера, однако новая система смогла выявить проблемы, оставшиеся после предыдущих проверок».
Не менее показательными стали эксперименты с ядром Linux, в ходе которых исследователи OpenAI смогли воспроизвести 1724 уязвимости, а ИИ успешно создал и проверил эксплойты для 948 из них. Эксплойты — это специальные программы, позволяющие использовать обнаруженные ошибки в программном обеспечении. В аналогичных условиях предыдущая модель GPT-5.6 Sol смогла успешно использовать 166 уязвимостей. В сотрудничестве с сообществом Linux специалисты OpenAI уже передали сопровождающим разработчикам информацию о 304 критических находках вместе с предложенными исправлениями.
Новая модель также использовалась для проверки собственной инфраструктуры OpenAI. В контролируемых испытаниях специалисты моделировали атаки на изолированные вычислительные среды, применяемые для обучения и запуска передовых ИИ-систем. Полученные результаты позволили устранить ошибки в программном обеспечении и усилить сетевые ограничения. Способность ИИ самостоятельно находить и проверять сложные уязвимости вызывает вопросы о возможном использовании подобных инструментов злоумышленниками. Поэтому OpenAI присвоила GPT-6 Cyber категорию Critical по уровню возможностей в области кибербезопасности в рамках собственной системы оценки рисков Preparedness Framework.
Одним из направлений обучения стала способность модели строго соблюдать границы разрешённого тестирования. Например, агенту может быть поручено проверить определённый сервер, но запрещено исследовать соседние системы или использовать посторонние сервисы для получения дополнительных прав. В специальном испытании модель GPT-6 Cyber не выходила за пределы разрешённых действий в 99,93% случаев даже без дополнительных защитных инструкций. При использовании таких инструкций в условиях данного тестирования показатель достиг 100%.
Доступ к модели первоначально предоставляется ограниченному кругу проверенных участников программы Daybreak Red, предназначенной для санкционированных исследований безопасности. Она предусматривает использование модели GPT-6 Cyber через API и среду разработки Codex. В дальнейшем OpenAI планирует расширить доступ среди одобренных организаций. Систему уже испытывают специалисты Cisco, CrowdStrike, Palo Alto Networks, CodeRabbit и других компаний.
«На наших внутренних тестах модель обнаружила на 66% больше серьёзных проблем безопасности», — сообщил Харджот Гилл (Harjot Gill), генеральный директор CodeRabbit.
OpenAI также объявила о программе Daybreak for Frontline Defenders с бюджетом $1 млрд, предназначенной для поддержки организаций с ограниченными ресурсами, включая государственные учреждения и операторов жизненно важной инфраструктуры. В рамках программы они смогут получать доступ к современным инструментам для поиска и устранения уязвимостей.
