Big Sleep от Google стала первой в мире моделью ИИ, обнаружившей уязвимость безопасности
Уязвимость, связанная с переполнением буфера в SQLite (компактная встраиваемая СУБД), была обнаружена с помощью большой языковой модели под названием «Big Sleep», разработанной совместно Google Project Zero и DeepMind.
Модель Big Sleep использует передовые методы анализа вариантов. Это методы, включающие использование информации из ранее обнаруженных уязвимостей для выявления похожих, потенциально уязвимых недостатков в связанных разделах кода.
Используя этот подход, Big Sleep обнаружила уязвимость, которая ускользнула от традиционных методов фаззинга, Термин "фаззинг" означает тестирование мусорными данными — техника тестирования программного обеспечения, часто автоматическая или полуавтоматическая, заключающаяся в передаче приложению на вход неправильных, неожиданных или случайных данных для выявления ошибок или уязвимостей путем наблюдения за неожиданными сбоями или поведением.
Система работает, сначала анализируя конкретные изменения в кодовой базе, такие как сообщения о фиксации и различия, чтобы выявить области, вызывающие потенциальную озабоченность. Затем модель анализирует эти разделы, используя предварительно подготовленные знания о шаблонах кода и прошлых уязвимостях, что позволяет ей выявлять незначительные недостатки, которые могут быть пропущены обычными инструментами тестирования.
В ходе анализа модель Big Sleep обнаружила проблему в функции SQLite «seriesBestIndex», где она не могла должным образом обрабатывать пограничные случаи, включающие отрицательные индексы, которые могли привести к операции записи за пределами предполагаемых границ памяти, создавая потенциальный эксплойт. Искусственный интеллект выявил уязвимость, смоделировав реальные сценарии использования и тщательно изучив, как различные входные данные взаимодействовали с уязвимым кодом.
Кроме того, модель Big Sleep также провела анализ основных причин, не только выявив уязвимости, но и поняв основные проблемы, которые к ним приводят. Google утверждает, что эта возможность позволяет разработчикам устранять основную проблему и, следовательно, снижать вероятность появления подобных уязвимостей в будущем.
Интересно, что уязвимость была обнаружена до того, как ее можно было использовать в официальном релизе, что, возможно, демонстрирует эффективность искусственного интеллекта в проактивной защите.
«Мы надеемся, что в будущем эти усилия дадут защитникам значительное преимущество — с возможностью не только находить тестовые случаи сбоя, но и предоставлять высококачественный анализ первопричин. Таким образом, сортировка и устранение проблем в будущем могут стать намного дешевле и эффективнее», — написала команда Big Sleep в своем блоге.
