谷歌 DeepMind 与新加坡政府发布端侧反诈骗模型：基于 Gemma 微调，两阶段流水线，政府与谷歌都无法读取用户对话

先看要解决的问题有多大。官方博客给出的数字是：诈骗类犯罪占新加坡已报案件的超过一半，自 2019 年以来造成的损失超过 40 亿新元；同时诈骗手法已从简单的钓鱼转向复杂的社会工程学，攻击者先用看起来可信的对话操纵受害者、再提出要钱的要求，这类手法现在占全部损失的 80%。官方还解释了为什么直接用通用模型不够：通用模型往往难以理解本地的欺骗话术，这让诈骗检测更难。因此这次的模型是在本地的诈骗对话上对谷歌轻量级 Gemma 模型做微调，训练素材涵盖冒充公共机构、银行、本地人物，以及区域性的热门骗局。官方称这样才能在应用里区分良性的社交闲聊与真正的操纵。

技术路线写得很具体，是一个两阶段流水线。第一阶段是一个轻量高效的分类器，用尽可能低的功耗筛选入站消息，负责初步捕捉潜在威胁；第二阶段做上下文分析，用微调后的 Gemma 模型读取更大的对话片段，用来确认威胁或者排除误报。官方提到，在手机上跑一个复杂的诈骗分类模型并不容易，电池效率是关键顾虑，这正是要分两阶段的原因。当模型检测到操纵性的对话模式时，会在用户设备上直接触发实时警告，提示用户先停下来、在提供敏感信息或资金之前保持谨慎。与依赖云端服务器扫描消息的传统威胁检测不同，这个模型直接在设备上处理对话数据；官方说法是，集成到应用后可以更快地分析对话模式以识别操纵意图，帮助用户在发生财务或凭证泄露之前采取行动。

这篇博客里最值得单独拎出来的是治理部分，因为它把隐私承诺拆成了三条可以核查的条款。第一条叫主权沙箱（Sovereign Sandbox）：微调在新加坡政府科技局管理和维护的 GCP 环境中完成，训练数据保持隔离。第二条叫不使用公民数据（No Citizen Data）：训练严格排除私人数据与个人可识别信息，只使用从诈骗报案与情报源衍生的匿名化数据集。第三条叫压力测试（Stress-Testing）：模型针对合成对话与本地语料做了测试，以覆盖不同的诈骗类别和不断变化的冒充手法。此外官方说明，模型在应用内的推广会分阶段进行、并与新加坡政府共同推进；部署后模型只能在用户同意、且符合该应用使用条款的前提下访问设备上的对话。这篇博客由 JJ Geewax 与 Miguel de Andrés 署名，并在新加坡国际网络周（SICW 2026）上展示，属于谷歌与新加坡政府国家 AI 伙伴关系的一部分。新加坡政府科技局信任与安全总监 Mark Chen 的说法是，反诈骗不应该以牺牲个人隐私为代价，把先进的 AI 保护直接放到公民设备上，可以实时捕捉高度本地化的定向诈骗，同时保持个人通信私密。

有几个地方需要读者自己留心。第一，官方没有公布这个模型的准确率、误报率或召回率，也没有给出参与测试的用户规模，所以现在无法判断它在真实场景里的漏报与骚扰性误报水平。第二，博客明确说这只是与新加坡政府合作的阶段性成果，并提到在探索把类似技术部署到其他国家，也就是说当前没有面向新加坡以外地区的可用时间表。第三，模型目前是提供给应用集成方（例如消息平台）的能力，不是一个普通用户可以立刻下载的独立产品；它能否在端到端加密的消息平台上真正落地，官方把它描述成一个可供参考的样板，而不是已经完成的答案。最后一点，本文所有事实均来自谷歌 DeepMind 官方博客与下方来源，没有加入推测。