Google DeepMind与新加坡GovTech合作交付端侧诈骗检测模型

2026年10月14日责任与安全

JJ Geewax 与 Miguel de Andrés

此次合作交付了一款端侧诈骗检测模型，可在不损害隐私的情况下帮助保护公民。

诈骗占新加坡所报告犯罪的一半以上，自2019年以来造成的损失超过S$4 billion。与此同时，诈骗手法已从简单的网络钓鱼转向复杂的社会工程，攻击者先以令人信服的对话操纵受害者，然后再索要钱款。此类诈骗目前占全部损失的比例高达80%。

为应对这一问题，Google DeepMind 与新加坡政府科技局（GovTech）一直在合作，作为我们与新加坡政府的国家人工智能伙伴关系的一部分。这使我们能够交付一款端侧诈骗检测模型——经过优化，可在新加坡的典型智能手机上运行——以应对一项紧迫的安全挑战，同时保护公民的隐私。

不损害隐私的端侧人工智能保护

通用模型往往难以应对本地化欺骗手法，使诈骗检测更加困难。为解决这一问题，Google DeepMind 的轻量级 Gemma 模型基于本地诈骗对话进行了微调。这些对话涵盖从冒充公共机构、银行和本地人物，到时下流行的区域性骗局，从而确保模型能够把良性社交闲聊与真正的操纵区分开来。

这一新模型还会在设备上处理对话数据。传统上，威胁检测依赖于在云端对消息进行服务器端扫描，但许多消息平台采用端到端加密——这意味着它们无法检查私人对话。人们需要一种在保持对话私密的同时防范欺诈的方式，我们的解决方案是将威胁分析带到设备端。这样可以更快地分析对话模式以检测操纵意图，并让公民在财务或凭证暴露发生之前采取行动。

深入剖析：本地上下文与边缘效率

当模型检测到具有操纵性的对话模式时，会直接在用户设备上触发实时警告，建议他们在分享敏感信息或资金之前暂停并谨慎行事。

在现代智能手机上运行复杂的诈骗分类器模型并非易事，电池效率是关键的关注领域。为此，我们依靠两阶段流水线：

阶段1：一个轻量、高效的分类器筛查入站消息，功耗极低，专注于捕捉潜在威胁。
阶段2：使用我们微调后的 Gemma 模型进行上下文评估，此时我们会分析更大的对话快照，以确认威胁或排除误报。

建立在严格治理之上

在新加坡国际网络周（SICW 2026）上发布，此次合作为消息平台在保护用户与端到端加密之间取得平衡提供了一个范本。整个开发过程始终维持严格治理：

主权沙盒：微调在 GovTech 所管理并维护的 GCP 环境中进行，使训练数据保持隔离。

无公民数据：训练严格排除私人信息或个人身份信息，使用源自诈骗报告和情报源的匿名化数据集。

压力测试：该模型针对合成对话和本地语料库进行了测试，以覆盖多样化的诈骗类别以及不断演变的冒充手法。

端侧安全的未来

该项目展示了人工智能如何帮助消息服务打击犯罪，并表明通过在设备上直接运行防护性人工智能，安全性和隐私都不必受到损害。它还展示了政府与模型提供商如何合作，为公共利益构建技术。消息平台和操作系统供应商可以直接集成这些轻量级模型，在本地保护用户，确保聊天交互保持安全，同时不暴露私人数据。