IT之家 10 月 16 日消息,据 TechCrunch 昨日报道,2024 年成立的澳大利亚初创公司 Apate 并未将 AI 用于提升效率,而是用它来与诈骗者周旋。
基于悉尼麦考瑞大学的研究,Apate 部署了数千个伪装成普通诈骗受害者的 AI 智能体。这些智能体能接听诈骗来电、回复可疑短信和邮件、追踪钓鱼链接,并加入社交媒体群组来引诱骗子。
智能体可以扮演各种角色,年龄、性别和口音各异,使用多种语言,目标就是尽可能多地占用骗子的时间。
该公司称,其智能体团队至今已在 250 万次对话中累计浪费了骗子 17 年的时间。更重要的是,对于 Apate 的客户——银行、电信公司、政府机构和公用事业公司——来说,这些“卧底 AI 特工”能让骗子主动透露一些通常只有在受害者被骗后才会暴露的个人信息:银行账户、加密钱包、电话号码、恶意网站、他们冒充的品牌以及其他诈骗细节。
随着 AI 的发展,骗子也能利用 AI 升级骗术。2025 年,美国联邦调查局接到超过 2.2 万起与 AI 相关的犯罪投诉,这些诈骗造成了约 8.93 亿美元(现汇率约合 59.86 亿元人民币)的损失。联邦调查局表示,诈骗者利用 AI 操控对话,并对名人、高管和可信人物的声音和形象进行深度伪造。
有趣的是,Apate 的创意源自一次真实的诈骗电话。几年前,Apate 创始人兼首席执行官 Dali Kaafar 在一次家庭野餐时接到一个陌生号码来电。他意识到是骗子,于是故意装傻,硬生生拖延了 44 分钟。
Kaafar 随后想到,那 44 分钟里骗子没有联系真正的受害者,那么能否将这个流程自动化?
这一想法最终促成了 Kaafar 在麦考瑞大学的工作,他和同事们利用机器学习和自然语言处理技术分析诈骗电话内容,并开发出更好的检测和防范诈骗方法。
“大多数行业都是事后补救。电信公司会封锁号码,但骗子只会换新号码。银行会监控交易,但那时骗子已经联系到客户了。我们则直接主动联系骗子,在其他人被骗之前获取信息,”Apate 联合创始人兼首席商务官 Brad Joffe 告诉 TechCrunch。“我们的 AI 智能体每天通过电话、短信、邮件和网络与成千上万的骗子沟通。我们为客户提供的是这些对话中产生的成果,以及他们能从中做些什么。”
Joffe 表示,Apate 既使用前沿模型,也利用自身精细调优的模型来驱动智能体和分析。
除了提供智能体服务,Apate 还能为客户提供针对其终端用户或员工、品牌、产品等的诈骗情报和分析。客户甚至可以指派这些智能体执行特定任务,比如获取骗子的银行账户号码或加密钱包地址。其短信智能体可以搜索论坛、投资团体和社交平台,寻找潜在的诈骗活动,然后以虚假身份进入对话,揭露骗子的详细诈骗步骤。
Apate 的客户包括澳大利亚联邦银行、TPG 电信,以及其他公用事业、电信公司和政府机构。Joffe 表示,TPG 已将接近 59 万个电话转接给 Apate 的智能体,澳大利亚联邦银行公开报告的诈骗损失下降了 76%,一家未具名的澳大利亚银行也利用其外呼智能体破坏了 22 起诈骗活动。
Apate 于今年 8 月筹集了 815 万美元(现汇率约合 5,462.9 万元人民币)的种子轮融资,该公司拥有 20 名员工,总筹集资金已接近 1,000 万美元(现汇率约合 6,703 万元人民币),计划将最新一轮资金投入产品开发和拓展国际业务,包括在伦敦开设办事处并在美国扩大影响力。
Joffe 表示:“Apate 的名字来源于希腊神话中的欺骗女神,这与我们的工作非常契合。”