Каждая вторая организация не контролирует использование ИИ

Группа Arenadata провела опрос участников форума «Цифровые решения» о внедрении и контроле искусственного интеллекта в организациях. Результаты выявили серьёзный разрыв между масштабом использования технологий и уровнем их регулирования. Более чем в половине организаций сотрудники используют искусственный интеллект без какого-либо контроля, а в 78% нет работающей политики его применения. При этом ИИ уже используют 76% организаций, около двух третей респондентов работают с американскими LLM, почти 70% замечали, что коллеги передают ИИ закрытую информацию компании.

Зрелость внедрения ИИ остаётся невысокой: в половине компаний самый продвинутый сценарий работы с технологией сводится к использованию чат-бота, а сквозную автоматизацию бизнес-процессов удалось реализовать лишь 12% опрошенных. Для написания кода ИИ применяют в 63% организаций, тогда как агентные сценарии внедрены только у 10% участников опроса.

Среди используемых моделей лидируют Qwen и ChatGPT, каждую из которых задействует примерно половина респондентов. При этом американские LLM обычно применяют параллельно с китайскими и российскими решениями, хотя доля компаний, использующих отечественные модели, не превышает 20%.

Уровень регулирования использования искусственного интеллекта отстаёт от реальных масштабов внедрения технологии. DLP-защиту внедрили 26% респондентов, ещё 21% выбрали полный запрет публичных моделей, тогда как большинство компаний пока не применяют никаких ограничительных мер. При этом более половины опрошенных признались, что сами отправляли данные в ИИ, чаще всего считая их неконфиденциальными. Передачу закрытых данных в ИИ считают недопустимой лишь 15% респондентов.

«Мы сами "нанимаем" AI-ассистентов, предоставляем им пароли к почте и календарю, разрешаем работать с файлами на компьютере, пускаем в корпоративные системы. Всё это неконтролируемо увеличивает поверхность атаки, риски утечек и компрометации», — считает Пётр Емельянов, директор по дата‑стратегии и искусственному интеллекту Группы Arenadata.

В отношении мер безопасности участники опроса сходятся в том, что организация должна обеспечить технически защищённую среду для работы с ИИ. Это различные технические решения, такие как локальные модели и обезличивание данных; пересмотр правил обращения с конфиденциальной информацией.

Вопрос распределения ответственности остаётся предметом разногласий: 59% респондентов полагают, что за ошибки при использовании ИИ должен отвечать сотрудник, 41% выступает за совместное распределение ответственности между человеком и технологией.