Google расширяет усилия по кибербезопасности на основе ИИ
Список анонсов возглавляет новость о «Big Sleep» — автономном ИИ-агенте, запущенном в прошлом году для проактивного поиска неизвестных уязвимостей в программном обеспечении. Google сообщила, что Big Sleep недавно обнаружил критическую уязвимость SQLite, основываясь на данных об угрозах от Google Threat Intelligence Group. По данным Google, это первый случай, когда ИИ-агент напрямую предотвратил кибератаку в режиме реального времени, что стало важной вехой в развитии защиты на основе ИИ.
Big Sleep также внедряется для повышения безопасности широко используемых проектов с открытым исходным кодом. Google описывает этот шаг как «серьезное достижение в обеспечении более быстрой и эффективной безопасности в Интернете в целом».
В преддверии конференции Black Hat Google также представляет новые агентские возможности «Timesketch» - платформы цифровой криминалистики с открытым исходным кодом. Обновлённая версия Timesketch теперь может автономно проводить первичные криминалистические расследования, анализируя журналы и обобщая результаты, сокращая время реагирования и позволяя аналитикам безопасности сосредоточиться на более сложных задачах.
Google также представляет первый подробный технический обзор FACADE (Fast and Accurate Contextual Anomaly Detection Engine) - системы обнаружения внутренних угроз на базе искусственного интеллекта, которая используется внутри компании с 2018 года. Примечательно, что FACADE не полагается на исторические данные об атаках, а использует контрастное обучение для выявления подозрительной активности в режиме реального времени, ежедневно обрабатывая миллиарды событий в инфраструктуре Google.
В поддержку своей приверженности ответственному использованию Google также выпустила новый официальный документ, подробно описывающий подход Google к созданию изначально безопасных ИИ-агентов. В документе особое внимание уделяется таким принципам, как человеческий контроль, прозрачность и снижение рисков, а также тому, как ответственно разворачивать агентные системы для максимального повышения кибербезопасности, обеспечения конфиденциальности и предотвращения непреднамеренных действий.
«Достижения этого лета в области искусственного интеллекта могут кардинально изменить ситуацию, но важно то, что мы будем делать дальше», — заявил Кент Уокер, президент по глобальным вопросам Google. «Разрабатывая эти инструменты правильно, применяя их по-новому и работая вместе с промышленностью и правительствами над их масштабным внедрением, мы можем приблизить цифровое будущее, которое будет не только более процветающим, но и более безопасным».
