ИИ-эксперт Владимир Нелюб из «Группы Астра» рассказал об опасных результатах шпионского ИИ-скандала с участием КНР и США
Китайские компании Moonshot AI и DeepSeek тайно перенаправляли запросы своих пользователей в Claude, выдавая результаты за ответы своих ИИ-моделей. По данным американской компании Anthropic, в одном из случаев Moonshot за десять дней перенаправила почти 300 000 запросов через сеть из 5380 учетных записей, большинство из которых находились в Сингапуре и Японии.
Эксперты выявили, что часть перенаправленных запросов содержала конфиденциальную информацию.
В «Группе Астра», крупнейшем разработчике ИИ-решений и вендоре B2B-решений, прокомментировали инцидент.
«Важно отметить, что среди перенаправленных данных оказались сведения о слежке, внутренние учетные данные госкомпаний КНР. Это не просто шпионский скандал, а наглядная демонстрация того, что любая модель вне корпоративного контроля буквально делает с вашими данными что хочет, например, передаёт их третьим лицам, переиспользует в ответах другим пользователям, или отдаёт в качестве готовых ответов на вопросы злоумышленников.
Компании, которые сегодня спокойно смотрят на то, как сотрудники пользуются публичными чат-ботами, должны четко понимать, что каждый день теневой ИИ уже работает в их контуре — руками их же сотрудников. Без контроля, без логирования, без понимания, куда уходит переписка и внутренние документы.
Запретительные меры здесь вряд ли будут эффективны — они лишь загонят использование ИИ глубже в тень. Единственное действенное решение — построение собственной системы доверенного ИИ, удобной для пользователя и безопасной для компаний. Такая система держится на четырёх опорах: собственная аппаратная часть или доверенное облако надёжного вендора, инференс-слой для контроля, логирования и управления моделями, безопасная среда исполнения агентов и понятные ИИ-инструменты для конечных сотрудников. Уверен, что российские коммерческие и государственные компании в ближайшем будущем неизбежно придут к построению такой инфраструктуры. Иначе данные будут утекать не потому, что кто-то злонамерен, а потому что система изначально построена не для надежного хранения ваших данных, а для их многократного переиспользования», — говорит Владимир Нелюб, управляющий партнер «Астра ИИ Код», директор по науке и ИИ «Группы Астра».
