人工智能与网络诈骗：暗藏哪些风险？

正如童颖，律商联讯风险信息的高级方案顾问，所指出：“聊天机器人仍可能被用于提升钓鱼邮件的欺骗性，因为目前并无有效机制阻止其生成诱导客户以安全为借口登录账户的文本。”

借助文本转语音工具，人工智能还能绕过声纹验证系统。童颖强调：“这些人工智能系统能够朗读文本并复刻采样语音。已有部分民众收到过利用此技术伪造亲属声音的诈骗信息。”该作案手法与深度伪造技术异曲同工。 

移动应用商店中聊天机器人应用的泛滥同样构成威胁，可能助长恶意应用程序的传播

社会工程诈骗：规模化风险显现

强认证系统的普及正促使诈骗分子改变策略，加倍实施社会工程诈骗。

社会工程诈骗该术语泛指“犯罪分子通过利用他人信任直接获取资金或窃取机密信息以实施后续犯罪”（定义来源：国际刑警组织），其特点是受害者在电话中受诈骗分子诱导亲自完成强认证流程。 

这种骗局不仅针对普通用户。部分诈骗手段极为精密，甚至能欺骗财务总监等高级别专业人士。 

鉴于此，诈骗分子利用人工智能已经对企业与用户构成实质威胁。当前诈骗活动仍以点对点模式进行（一名诈骗者针对一名受害者实施诈骗）的局限可能被打破——聊天机器人结合文本转语音技术或将实现诈骗手段的批量部署。“诈骗呼叫中心平台很可能被对话式智能助手取代，使犯罪规模呈指数级扩张。”童颖预测道。

典型作案场景：

• 诈骗分子发送钓鱼邮件
• 受害者在表单中填写个人信息、登录账号密码、电话号码及理财顾问姓名
• 机器人致电银行录制顾问声音（仅需数秒即可复制声音）。
• 聊天机器人冒充理财顾问致电受害者，诱导其完成认证或转账操作

数据保密性的困局

童颖还另外指出：“人工智能在诈骗中的应用尚处于初级阶段，当前此类工具的最大风险在于数据保密性问题。” 对话式智能助手的使用看似无害，但缺乏保密意识的用户可能轻易泄露敏感信息。

语言模型如何处理这些信息仍是未解之谜，但已有案例显示聊天机器人可能复用机密数据，例如某大型手机厂商开发者事件；还有对话系统编辑器因类似问题被迫临时禁用模型的案例。

这警示我们，在语言模型内在限制、敏感数据标识、信息保密机制以及企业与个人防范意识培育等领域，仍有大量预防工作亟待推进。

利用人工智能打击诈骗

尽管形势严峻，但人工智能工具在打击网络诈骗方面仍大有可为。

通过机器学习模型，人工智能已广泛应用于诈骗检测与预防。其算法的高度灵活性可有效适应不断演变的网络诈骗手段。童颖表示：“通过实时分析海量数据、识别欺诈行为模式，聊天机器人将能显著提升分析师的调查效率。”

仅具备欺诈检测能力远远不够

强化欺诈检测的强认证机制可能延长合法用户的操作流程。LexisNexis® ThreatMetrix®可作为传统欺诈检测方案的有效补充，不仅显著提升用户体验流畅度，更实现了高度安全保障。在保障高度安全的同时，为用户带来流畅的体验。