骗子正在利用人工智能技术诈骗 如何做好防范？

今年早些时候，微软亮相了一个新的人工智能（AI）系统，该系统在听完某个人讲话后只需三秒钟就能重现他/她的声音。

人工智能越来越擅长复制一个人的声音，并产生连贯的对话。(Reuters:Philippe Wojazer)

这个迹象表明，人工智能可以多么迅速地复制某人身份的关键部分，并能令人信服。

以下是某人的三秒钟语音提示的例子，该语音被送入系统：

接下来是被称为VALL-E的人工智能在被要求重现那个人的声音时产生的语音，人工智能说了下面这句话：“其他人对延期很反感，但正是他的顾虑迷住了我。”

据报《Vice》杂志记者乔瑟福·考克斯（Joseph Cox）后来使用了类似的人工智能技术，用人工智能复制自己的声音登录进了一个银行账户。

今年3月，《卫报》澳大利亚版记者尼克·伊夫赛德（Nick Evershed）说，他使用人工智能做出自己的声音，进入了他的Centrelink自助服务账户，这引起了一些安全专家的关注。

虽然语音克隆可以被骗子利用，但这并不是专家看到骗子利用人工智能的唯一方式。

让我们来看看这项技术是如何被使用的，以及如何最好地保护自己。

人工智能可以复制任何人的声音

《卫报》的调查表明，Centrelink和澳大利亚税务局（ATO）使用的“声纹”安全系统其实可以被欺骗——该系统使用了“在澳大利亚，我的声音可以识别我”这句话。

这感觉就像1992年电影《通天神偷》（Sneakers）中的场景，当时罗伯特·雷德福（Robert Redford）扮演的角色使用某人的声音录音通过安检。

YOUTUBE汤姆·毕晓普(罗伯特·雷德福饰演)用一段录音通过了安检。

在其2021-22年度报告中，澳大利亚服务局（Services Australia）表示，语音生物识别技术已被用于验证每天超过56,000个电话以及39%的呼叫Centrelink的主要业务号码。它还说，声纹“与指纹一样安全”。

澳大利亚税务局说，“其他人很难模仿你的声纹并获取你的个人信息”。

皇家墨尔本理工大学信息科学教授丽莎·吉文（Lisa Given）博士说，人工智能生成的声音也会让人们相信他们是在与自己认识的人交谈。

“当一个系统可以合理地复制我的声音，并且还加入了同情心，你可以想象，一个骗子可以从发送短信说‘嘿，妈妈，我的手机丢了’，到打电话或发送语音邮件，实际上试图造出那个人的声音，”她说。

上个月，美国联邦贸易委员会警告消费者关于使用人工智能生成的声音仿冒家庭成员紧急电话的情况。联邦调查局也发出了关于虚拟绑架骗局的警告。

这些担忧促使专家们提出了一些基本策略，人们可以用这些策略来保护自己免受仿冒语音的影响：

直接给朋友或家人打电话核实他们的身份，或者想出一个验证词在电话里说，以确认真正的紧急情况。

对突如其来的电话保持警惕，即使是来自你认识的人，因为来电显示的号码可能是伪造的。

如果有人要求你分享个人身份信息，如你的地址、出生日期或名字，要小心。

网络安全软件公司Gen Digital的亚太区董事总经理马克·高丽（Mark Gorrie）说，人工智能语音生成器在欺骗人和安全系统方面会越来越强。

“许多年来，仅凭声音就能轻易发现‘机器人骗局’，”他说，“但基于声音的人工智能将变得更像，显然它使用的文本也会更像。”

人工智能系统也越来越多地用于识别基于人工智能的骗局。(Unsplash: Towfiqu Barbhuiya)

骗子用人工智能生成的文本和虚假产品评论愚弄人们

随着人工智能系统的改进，大型语言模型如OpenAI眼下正流行的聊天机器人ChatGPT，能够更好地模仿人类的反应。这是骗子试图在电子邮件、文本信息和他们可能自己创建的其他聊天机器人中重新创建的东西。

吉文博士说：“我们作为人类在与人建立关系时使用的那些同情心和社交暗示的概念，正是骗子们可以使用并建立在系统中的各种技巧。”

骗子们将人工智能运用于网络钓鱼诈骗中，通常涉及一封电子邮件或短信，声称来自合法来源，但最终使用社会工程来获取个人信息。一些信息还可能使用链接将你送到一个危险的网站。

吉文博士说，聊天机器人和大型语言模型可以通过“完善语言”以及使信息看起来更加个性化，从而使网络钓鱼活动更具说服力。

“在过去，网络钓鱼邮件充满了打字错误和不真实的细节，足以让人们问，‘这封邮件谁写的？这是什么啊？近年来，这些东西确实在短信诈骗中急剧增加，而且骗子们使用了更多的平台，”她说。

网络安全公司Darktrace说，在2023年的头几个月，它看到复杂且新式的社会工程攻击增加了135%，它说这与ChatGPT的广泛采用相对应。

“与此同时，含有链接或附件的恶意邮件数量有所下降。这一趋势表明，生成性人工智能，如ChatGPT，正在为威胁方提供一个途径，高速度、成规模地制作复杂且有针对性的攻击。”

高丽先生说，Gen Digital预测这种骗局将继续增加，因为即便没有什么技术能力的人，也很容易生成这些骗局。

“不要以为你可以单纯通过看一条信息来识别它是真的还是假的，”他说，“你必须怀疑并批判性地思考你所看到的东西。”

Darktrace的首席产品官马克思·海内美亚（Max Heinemeyer）说，该公司也在使用人工智能来帮助它识别基于人工智能的骗局。

“在一个由人工智能驱动的攻击越来越多的世界里，我们不能再把责任放到人类肩上来确定他们收到的通信的真实性。这现在是人工智能的工作，”他说。

高丽先生说，人工智能也被用来在网上发布虚假的产品评论，但一些旨在寻找人工智能生成的内容的工具却很难不断识别它。

“这只是表明，随着质量的不断提高，它显然更难被发现。”

人工智能可以生成虚假的产品评论，骗子在试图销售伪劣产品时会使用这些评论。(AP: Jenny Kane)

骗子可以利用人工智能创造恶意的计算机代码和破解密码

软件工程师和爱好者已经使用人工智能来快速构建应用程序和网站等东西，但该技术也被用来生成可用于入侵其他计算机的代码。

“我们已经在一些黑客论坛上看到，一个不太熟悉编写恶意代码的非技术人员可以有能力编写一些基本代码用于恶意目的，”高丽先生说，“因此，成为一名真正的黑客的门槛肯定在转变。”

人工智能程序也被用于尝试破解密码，导致专家们敦促人们加强他们的密码，并尽可能使用双因素认证。

一些专家还对可能很快被添加到谷歌文档和微软Excel等生产力应用程序中的人工智能功能表示担忧。他们担心，如果骗子或黑客掌握了大量被盗数据，那么人工智能工具会被用来快速提取有价值的信息。

人工智能可以生成恶意的计算机代码，或者试图破解人们的密码。(Unsplash: Chris Ried)

澳大利亚监管机构表示人工智能使骗局“更难识别”

澳大利亚竞争和消费者委员会（ACCC）表示，虽然它没有收到任何特别指向使用人工智能的诈骗报告，但它知道该技术“使人们更难识别诈骗”。

“随着新技术的出现，[ACCC的]反诈骗网站Scamwatch不断看到诈骗方法越来越复杂，并警惕人工智能带来的风险，”一位发言人说。

“我们继续与电信和数字平台行业合作伙伴合作，以确定检测和破坏骗局的方法。

“大家应继续谨慎对待任何关于个人信息或金钱的要求，并在点击超链接时谨慎行事。”

随着澳大利亚各公司努力防止诈骗 报告显示民众对监管信任度很低

咨询公司毕马威和澳大利亚信息产业协会今年三月发布的一份报告发现，三分之二的澳大利亚人认为没有足够的法律或法规来保护他们免受人工智能的不安全使用。

一些澳大利亚银行和电信公司表示，他们已经在使用人工智能来检测其系统中的潜在诈骗和网络威胁。

澳大利亚金融投诉局（AFCA）表示，它每月收到约400起与诈骗有关的投诉，比2021-22年的约340起有所增加。

AFCA的首席监察员兼首席执行官大卫·洛克（David Locke）表示，虽然一些公司正在合作检测和预防骗局，但还需要做更多工作。

他说：“诈骗的广泛性和复杂性意味着该行业需要愿意投资于新技术，并有能力做出快速反应。”

吉文博士说，虽然人工智能有很多积极的实用方式，但没有人能够幸免于被基于人工智能的诈骗所瞄准。

“我认为人们必须意识到，这正在影响每个人，不管你是技术专家还是新手，”她说。

“实际上，试着使用这些技术，了解它们是如何工作的，并围绕这些做一些阅读，以及与人交谈，与你的孩子谈论这些，这都是非常健康和积极的。

“人们只需要尽可能地挑剔，同时理解人工智能并不都是风险或有问题。”