Google DeepMind представила ИИ-приложение для обнаружения мошенничества прямо во время переписки
В отличие от традиционных фильтров, которые проверяют отдельные сообщения или сверяют номера телефонов со списками мошенников, AntiScam Pango анализирует развитие разговора пользователей мессенджеров. Например, злоумышленник может начать общение с обычного приветствия, постепенно завоевать доверие собеседника, а затем предложить инвестиции с высокой доходностью или попросить перевести деньги. Система учитывает предыдущие сообщения отправителя и пытается распознать характерные признаки психологического воздействия: создание искусственной срочности, обещания гарантированной прибыли, давление на собеседника или попытки получить конфиденциальную информацию.
«Мошенники чрезвычайно искусны в своём деле. Они очень быстро переходят с одного канала общения на другой и хорошо понимают поведение людей, особенно когда те обеспокоены или торопятся», — отметила Джасмин Лау, старший государственный министр Министерства цифрового развития и информации Сингапура.
В качестве примера разработчики показали переписку в одном из мессенджеров, которая начинается с дружелюбного сообщения и постепенно превращается в предложение перспективной инвестиции. Когда собеседника просят внести регистрационный взнос в размере 200 сингапурских долларов, приложение распознаёт возможное инвестиционное мошенничество. Пользователь получает предупреждение с объяснением подозрительных признаков и рекомендацией не переводить деньги до самостоятельной проверки информации. При этом AntiScam Pango не удаляет сообщения и не блокирует отправителя автоматически. Решение о дальнейших действиях остаётся за владельцем смартфона.
Технологическую основу разработки составляет облегчённая модель Google Gemma, дополнительно обученная распознавать распространённые в Сингапуре сценарии обмана. Среди них — поддельные сообщения от государственных учреждений, банков, известных лиц и мошеннические инвестиционные предложения. Для подготовки модели использовались обезличенные данные о мошеннических схемах, в том числе материалы государственной системы ScamShield и сведения о подозрительных интернет-ресурсах.
Чтобы уменьшить нагрузку на процессор и аккумулятор смартфона, разработчики применили двухступенчатую архитектуру анализа. Сначала входящие сообщения проверяет небольшой классификатор, который быстро определяет потенциально опасные признаки. Если возникает подозрение, подключается доработанная модель Gemma, анализирующая более широкий контекст переписки. Такой подход позволяет не запускать относительно ресурсоёмкую языковую модель для каждого безобидного сообщения. При этом сложные сценарии мошенничества, в которых намерения злоумышленника проявляются постепенно, получают дополнительную проверку.
Важнейшей особенностью AntiScam Pango стала локальная обработка данных. После получения разрешения пользователя приложение анализирует уведомления мессенджеров непосредственно на устройстве. Содержание разговоров не передаётся разработчикам или государственным органам, если пользователь самостоятельно не отправляет сообщение о возможном мошенничестве.
«Борьба с мошенничеством не должна означать отказ от личной конфиденциальности. Вместе с Google DeepMind мы переносим передовые средства ИИ-защиты непосредственно на устройства граждан», — заявил директор по вопросам доверия и безопасности GovTech Марк Чен.
Именно возможность работать с локальными данными делает разработку интересной для защищённых мессенджеров. Сквозное шифрование не дает возможности сторонним системам анализировать содержание переписки на серверах, но не мешает пользователю разрешить проверку полученных уведомлений непосредственно на собственном смартфоне.
В Сингапуре проблема мошенничества остаётся особенно острой. По данным полиции, в первой половине 2026 года мессенджеры стали наиболее распространённым каналом первого контакта с жертвами, на них пришлось 27,6% зарегистрированных случаев. В значительной части таких преступлений люди самостоятельно переводили средства после психологических манипуляций.
AntiScam Pango дополняет действующее приложение ScamShield, которое блокирует подозрительные звонки и помогает проверять номера, сообщения и ссылки. Новая система способна выявлять потенциально опасные разговоры ещё до того, как пользователь решит самостоятельно проверить подозрительный номер. На этапе тестирования разработчики собирают отзывы пользователей, чтобы улучшить распознавание мошеннических схем и уменьшить количество ложных предупреждений. Агентство GovTech также рассматривает возможность последующего объединения AntiScam Pango со ScamShield. Пока приложение доступно только на Android, поскольку эта операционная система позволяет предоставлять сторонним программам доступ к уведомлениям других приложений. Разработчики изучают способы реализации аналогичной защиты на iPhone, а также возможность поддержки дополнительных мессенджеров.
