相信绝大多数的人都对诈骗深恶痛绝，而诈骗集团也与时俱进，不断提升自己的诈骗技巧与技术，随着 AI 技术的快速发展，近来诈骗集团也开始运用 AI 来进行诈骗，例如制作知名人士的深伪（deep fake）视频，然而在这场军备竞赛中，善良百姓就只能任人宰割吗？英国维珍集团旗下的电信公司「O2」，在 11 月 14 日发表最新的 AI 防诈骗工具：他们推出了「黛西老奶奶」（Daisy, The 「AI Granny」），因为这一周（11 月 17 日至 23 日）也是国际反诈骗周。
诈骗事件不是台湾独有，现在世界各国都为此很伤脑筋，根据 O2 的数据，69% 的英国人认为自己成为诈骗者的目标，22% 的人每周都会遇到诈骗，光是在 2023 年，O2 就封锁了 8,900 万则短信，截获并阻止超过 2.5 亿英镑的涉诈交易，相当于每两分钟就阻止一笔交易。面对这十分猖獗的诈欺犯罪，71% 的英国人希望自己能反击那些试图进行诈骗的人，但同时也有 53% 的人，并不想浪费自己时间来和诈骗集团周旋。
诈骗集团喜欢锁定的对象很多，包含自认非常聪明、自认不会被骗的人，涉世未深的年轻人，渴望金钱的人，渴望爱情的人，以及人数庞大的老人家，这次 O2 所开发的 AI 防诈骗工具「黛西老奶奶」，就是模仿常被诈骗的老年族群，但这是有原因的，让我们先来看看 O2 的 AI 运用概念。
O2 的想法，是运用 AI 创造出一个虚拟的「诈骗者关系主管」，这个 AI 人物可以即时接听诈骗者的来电，并以栩栩如生的对话内容，让诈骗者误以为自己遇到了理想目标，花上很长的时间和电话费用，来与电话另一头持续攀谈，但除了浪费时间与金钱之外，什么都得不到，因此这个 AI 人物必须通过多组 AI 模型共同协调运作，包含：
- 聆听与文本转换：将诈骗者的声音转换为文本。
- 语言生成：使用特定的大型语言模型（LLM），结合创设的 AI 角色个性，根据诈骗者对话来生成适当的回应文本。
- 语音回应：运用 AI 语音合成技术，生成拟人的语音莱对诈骗者回复。
根据这样的技术，虚拟 AI 人物「黛西老奶奶」就此诞生，之所以设置为老奶奶，一方面是如前所述，老人家经常被锁定为诈骗对象，因此诈骗者会很乐意与她进行对话，并不断试图套取个资，另一方面则是因为前面提到的 AI 运算方式或许会出现一点误差，将虚拟人物设置为高龄者的话，就算回话速度稍微有点慢，或是回答内容有点出错，也会被当成老人家的反应迟缓，或是常见的重听与胡言乱语，不会被诈骗者所察觉。
「不过话说回来，说起我家的猫咪啊……」亲切的黛西老奶奶就此诞生，她被设置为「像人类一样漫无边际的闲聊」，使用温和悠闲的语调，与来电的诈骗者闲话家常，谈论她家的猫咪，谈论她所热爱的编织，谈论她的家庭故事，她让诈骗者以为自己找到完美的目标，却完全没意识到自己正在浪费时间（同时也是可以去诈骗其他人的时间），也巧妙地运用了诈骗者对老人家的偏见，当诈骗者试图要套出银行帐户等个资时，黛西老奶奶还会用「这是什么来着？」之类的话来呼咙过去拖延时间，最后才给出一个虚假的帐户号码，再将诈骗者一军。根据实验结果，黛西老奶奶已成功地让许多诈骗者通话超过 40 分钟却毫无所获。
目前 O2 尚未透露黛西老奶奶所使用的基础大型语言模型具体细节，但表示其训练过程使用了「最先进的 AI 技术」，并得到了防诈骗专家的协助，此外 O2 也没说明黛西老奶奶如何介入诈骗电话的方式，目前知道的是当黛西老奶奶与诈骗者进行对话时，完全不需人力介入，而且她可以 24 小时运作。
黛西老奶奶的出现，将让许多诈骗者与 AI 对话而无自觉，日后也可能出现其他角色来与诈骗者们周旋对话，但相对地也凸显出一项事实，那就是你永远不知道电话的另一端到底是谁，这对善良的民众非常重要，今天我们可以用 AI 生成角色与语音来欺骗诈欺者，明天可能就变成诈骗者运用 AI 生成角色与语音来欺骗我们，追根究柢，还是要时常具备防诈骗的意识，才能避免自身损失。最后补充一点：「黛西」（Daisy）名字的由来，是因为拼字里有「AI」二字。
版权声明
本文为本站原创内容,转载需注明文章来源(https://www.eiefun.com)，另:文中部分素材可能会引用自其他平台，如有侵权或其它，请联系 admin@eiefun.com，我们会第一时间配合删除