В «Соларе» рассказали, как хакеры выдают себя в ИИ-кибератаках
Прямухин отметил, что по данным центра противодействия кибератакам Solar JSOC, за январь-сентябрь 2026 года специалисты центра зафиксировали 31,7 тыс. подтвержденных компаниями-заказчиками киберинцидентов – на 38% больше, чем за аналогичный период прошлого года. Одной из причин роста стало распространение ИИ-инструментов, которые позволяют быстрее собирать сведения о целевых организациях, искать уязвимости, персонализировать фишинговые сообщения, создавать вредоносные программы и применять их в атаках. И, хотя ИИ действительно делает работу злоумышленников эффективнее, он все еще редко проводит за них полный цикл атак.
По словам эксперта, один из факторов, сдерживающих эффективность применения ИИ – это применяемые государствами ограничения доступа к передовым нейросетям. Из-за этого злоумышленники либо не могут пользоваться такими моделями, либо получают к ним лишь частичный доступ. Вместе с тем появляются все более мощные открытые модели, не имеющие подобных ограничений. Однако для их использования непосредственно при проведении атак, а не только для генерации кода, необходимы значительные вычислительные ресурсы. Поэтому воспользоваться такими возможностями смогут прежде всего хорошо оснащенные злоумышленники.
«Подобные ограничения уже работают на практике. Так, OpenAI сообщала о блокировке аккаунтов злоумышленников, которые использовали ChatGPT для разработки и доработки вредоносного ПО. При этом часть запросов на создание опасных инструментов отклонялась самой моделью. Это показывает, что использование коммерческих нейросетей для кибератак связано с риском потери доступа к инструменту, на который рассчитывает злоумышленник», – сказал Прямухин.
Еще одна проблема – заметность действий нейросетей. Создаваемый ими «шум» сложно устранить, поэтому системы мониторинга и защиты, такие как Solar SIEM, могут обнаруживать подозрительную активность и блокировать ее еще до того, как вредоносное программное обеспечение (ВПО) успеет выполнить свою задачу.
«Третий барьер – непредсказуемость и галлюцинации. ИИ выдает очень много лишнего кода. Если его не исправлять, атака просто останавливается или даже не начинается. При этом для исправления таких ошибок от злоумышленника требуется все же довольно высокий уровень компетенции», – пояснил Прямухин.
Он добавил, что ИИ в разработке ВПО может оставлять характерные следы, по которым специалисты способны определить его участие. Если злоумышленник недостаточно тщательно проверил результат генерации, в программе могут сохраниться лишние функции и фиктивные элементы интерфейса, не имеющие практического применения при проведении атаки. На искусственное происхождение кода также могут указывать эмодзи и специфические речевые конструкции, характерные для ответов нейросетей.
Кроме того, нейросети пока уступают опытным специалистам в эффективности проведения атак. Человек, который хорошо знает техники взлома и уязвимости, в сложных и нестандартных ситуациях может действовать точнее и результативнее, чем ИИ, отметил эксперт.


