Google DeepMind и GovTech Singapore выпустили on-device модель против мошенников
Google DeepMind и сингапурское агентство GovTech представили модель для обнаружения мошеннических переписок, которая работает непосредственно на смартфоне. Анализ выполняется на устройстве, поэтому сообщения не передаются на серверы даже в мессенджерах со сквозным шифрованием.
Главное в цифрах
- Доля мошенничества в зарегистрированных преступлениях Сингапура: более половины
- Потери от мошенничества в Сингапуре с 2019 года: более S$4 млрд
- Доля социальной инженерии в потерях от мошенничества: до 80%
Модель основана на легковесной языковой модели Gemma, которую дообучили на местных мошеннических диалогах. В обучающие данные вошли выдача себя за государственные учреждения, банки и местные знаменитости, а также распространённые в регионе схемы.
При обнаружении манипулятивных сценариев пользователь получает предупреждение прямо на устройстве до того, как передаст деньги или конфиденциальные данные.
Как устроена защита
Традиционно угрозы выявляются серверным сканированием сообщений в облаке, но многие мессенджеры с end-to-end шифрованием делают это невозможным. Разработчики решили перенести анализ на устройство, что позволяет быстрее замечать схемы манипуляций.
Модель оптимизирована для обычных смартфонов в Сингапуре. Чтобы не слишком расходовать батарею, использована двухэтапная схема обработки.
Обучение проходило в управляемой среде GovTech на изолированных данных. Персональные и идентифицирующие данные граждан в обучение не включались: использовались обезличенные наборы из отчётов о мошенничестве и данных разведки. Модель тестировали на синтетических диалогах и локальных корпусах.
Контекст
Мошенничество составляет более половины зарегистрированных в Сингапуре преступлений. С 2019 года потери от мошенничества превысили S$4 млрд. По данным разработчиков, схемы перешли от простого фишинга к сложной социальной инженерии, когда злоумышленники долго выстраивают доверие, прежде чем попросить деньги, и такие случаи дают до 80% всех потерь.
Проект представлен на Singapore International Cyber Week (SICW 2026). Авторы считают, что подобные модели могут интегрировать мессенджеры и разработчики операционных систем, чтобы защищать пользователей локально.
