За последний год внедрение ИИ на предприятиях выросло в 30 раз
Выводы получены из отчета Zscaler «ThreatLabz 2025 AI Security Report», основанного на информации из более чем 536 миллиардов транзакций ИИ, обработанных на платформе кибербезопасности «Zero Trust Exchange». В отчете также подробно описываются сценарии реальных угроз начиная от фишинга с использованием ИИ и заканчивая поддельными платформами искусственного интеллекта. Также в отчете представлена информация о последних разработках в различных областях, которые повлияют на искусственный интеллект в 2025 и последующих годах.
Рост использования искусственного интеллекта и машинного обучения на предприятиях более чем на 3000% в годовом исчислении свидетельствует о быстром внедрении технологий искусственного интеллекта во всех отраслях, что позволяет достичь новых уровней производительности, эффективности и инноваций. Было обнаружено, что с помощью платформы Zscaler предприятия отправляют значительные объемы данных в инструменты искусственного интеллекта, объем которых составляет 4500 терабайт. В то же время было обнаружено, что предприятия блокируют почти 60% всех транзакций с использованием искусственного интеллекта и машинного обучения, что свидетельствует об осознании потенциальных рисков, связанных с ИИ и инструментами машинного обучения, включая утечку данных, несанкционированный доступ и нарушения требований законодательства.
Самым популярным инструментом, что неудивительно, оказался ChatGPT с долей использования в мире в 47,1%. Однако, с другой стороны, он также оказался самым блокируемым инструментом из-за растущих опасений по поводу раскрытия конфиденциальных данных и несанкционированного использования. Другие наиболее часто блокируемые приложения включают Grammarly, Microsoft Copilot, QuillBot и Wordtune.
В отчете отмечается, что с ростом инноваций растет и число угроз, а появление агентского искусственного интеллекта и китайского DeepSeek с открытым исходным кодом позволило злоумышленникам масштабировать атаки. Хотя в отчете не осуждается появление DeepSeek, в нем отмечено, что такие достижения также создают значительные риски для безопасности.
Что касается того, какие страны больше всего используют искусственный интеллект и машинное обучение, то, США ожидаемо оказались на первом месте. На втором месте оказалась Индия. Искусственный интеллект распространяется по всему миру, и все большее число пользователей сталкиваются не только с проблемами безопасности, но и с жесткими требованиями к соблюдению безопасности, высокими затратами на внедрение и нехваткой квалифицированных специалистов, что увеличивает угрозу кибератак с использованием искусственного интеллекта.
В разбивке по отраслям было установлено, что использование искусственного интеллекта лидирует в сфере финансов и страхования, на долю которых приходится 28,4% трафика, что отражает внедрение и использование ИИ для таких важных функций, как обнаружение мошенничества, моделирование рисков и автоматизация обслуживания клиентов. Далее идет обрабатывающая промышленность с 21,6% транзакций, использующих искусственный интеллект, за ней следуют услуги (18,5%), технологии (10,1%) и здравоохранение (9,6%).
«Хотя ИИ предлагает огромный потенциал для инноваций и эффективности, он также порождает новый набор рисков, с которыми организациям приходится бороться, а именно рисков, связанных с использованием генеративного ИИ на предприятии и меняющимся в связи с этим ландшафтом угроз», — пишут исследователи Zscaler.
