人工智能（AI）技术已经变得让人难辨真伪。从文字、声音到图像、视频，没有什么是 AI 不能创造的。这在犯罪分子看来，无疑是一件“如意金箍棒”。
根据华尔街日报报道，今年 3 月，犯罪分子通过商业化的人工智能语音生成软件，成功模仿并冒充一家英国能源公司的德国母公司 CEO，来欺骗其多位同事和合作伙伴，一天内多次诈骗并转移资金，使得该公司损失 220,000 欧元（约合 173 万元人民币）。
（来源：thenextweb）
该报道称，这是一起语音欺诈的新案例，即 vishing（“语音网络钓鱼”的缩写），犯罪分子使用人工智能技术来自动化网络攻击并诈骗，获取钱财，是一种非常可怕的手段。
华尔街日报引述这家英国能源公司的 CEO 话说，他正在与他的老板，即该公司德国母公司的首席执行官通电话，对方要求他将资金发送给匈牙利供应商。据该公司的信用保险公司 Euler Hermes 表示，这名来电者表示该请求非常紧急，要求行政人员在一小时内付款。
据悉，该英国能源公司由 Euler Hermes（裕利安宜）集团投保，后者承担了全部被骗损失。该公司反欺诈专家 Rüdiger Kirsch 表示，英国首席执行官认可了他的老板有着轻微德国口音以及他在电话中的声音旋律。这英国 CEO 认为，这就是他的德国老板打来的。
非常有趣的是，当 22 万欧元到手后，这德国“老板”又打电话来了，前前后后，他给打了三次电话，他表示，其德国母公司需要转移资金偿还英国公司的费用。然后他们在当天晚些时候进行了第三次电话会议，再次冒充德国首席执行官，并要求第二次付款。由于转账偿还资金还没有到来，而这次电话号码是来自奥地利的，该公司行政部门开始怀疑，所以并没有支付第二笔款项。
后来的调查显示，冒充德国 CEO 的犯罪分子将骗来的资金，从匈牙利转移到墨西哥和其他地方。截至目前，当局已经结束了相关调查，暂时未确定这次诈骗事件背后的罪魁祸首。
事实上，由于这一事件是基于人工智能的网络攻击，找到犯罪分子无疑是“大海捞针”，但给人们提了醒，未来企业和组织都可能遇到这一事件，如何处置才是根本性办法。
报道指出，欧洲的语音欺骗攻击是他们听到的第一个网络犯罪事件，而犯罪分子依赖的是 AI 技术。Rüdiger Kirsch 表示，这次事件对该公司来说，也是一个新的挑战。在这种情况下，AI 语音生成的软件能够成功模仿德国母公司 CEO 的声音，未来可能会有更多的声音模仿，这实在很可怕。
有更多人认为，这不会是使用 AI 犯罪的孤立案件，如果这种诈骗攻击被证明是成功的话，会有更多类似犯罪事件发生。欧洲刑警组织欧洲网络犯罪中心战略负责人菲利普·阿曼表示，如果黑客认为这种攻击更成功或更有利可图，他们有可能会提高使用该技术的频率。
网络安全公司 Endgame 的数据科学主管 Bobby Filar 表示，一些软件公司提供的服务可以迅速冒充声音，“你不需要是数学博士，就可以使用它。”
毫无疑问， AI 技术正在造福人类，比如说语音助手、机器人服务等等，但是人们对其技术的运用，并不一定都是正面的。根据安全研究人员去年在黑帽大会上展示了一项相关技术，黑客将音频样本拼接在一起，经过大量的语音数据合成之后，就可以轻松模仿一个人的声音。
（来源：Pxhere）
在 AI 语音工具越来越“真实”的时候，犯罪分子利用高科技手段的可能性也随之提高。通过电话假冒熟人身份，轻易获得受害者的信任，接着，犯罪分子就可以轻松访问其他私人内容，并利用其来获取钱财、银行卡等敏感信息。
联合国区域间犯罪与司法研究所人工智能与机器人中心负责人伊拉克利·贝里兹表示，将机器学习技术应用于欺骗性声音，使网络犯罪变得更加容易。
2018 年，设计反欺诈语音软件的网络安全公司 Pindrop 发布了一份语音数据报告，结果显示，从 2013 年到 2017 年，语音欺诈的数量增长了 350％，更令人震惊的是，每 638 个电话中，就有 1 个是虚假语音诈骗的。
为了保护大众免受经济和声誉的影响，通过后续电子邮件或其他替代方式验证“语音通话”指令变得至关重要。
随着基于 AI 技术的工具逐渐兴起。一方面，它为探索和创造提供了空间。另一方面，它也没有边界和护城河，助长欺诈事件的发生。
DeepTech 曾采访 MIT 人工智能实验室主任 Daniela Rus，她认为人类需要谨慎、仔细地看待 AI 技术。技术是中立的，最终的结果取决于控制技术的人。
Daniela Rus 对 DeepTech 表示，虽然 AI 有诸多优势，但是要警惕人类“抄近道”，该弄的东西没有弄，欺骗技术与系统，造成很大的困扰。
“实际上，每个人都有自己关于隐私的底线，因此就很难有个通用的解决方案，所以，这个问题很难解决。但是，我认为坚持数据向善非常重要。”美国卡内基梅隆大学教授周以真对 DeepTech 表示。
或许，当大众认为技术正在快速影响人们生活的时候，要深刻意识到，技术带来的，不仅仅是正向的回馈，还有负面的效应，这把双刃剑，如何利用好，将是全人类最严峻的课题与挑战之一。
万一碰到了 AI 语音诈骗，你能听出来吗？
-End-
参考：
https://thenextweb.com/security/2019/09/02/fraudsters-deepfake-ceos-voice-to-trick-manager-into-transferring-243000/
https://www.wsj.com/articles/fraudsters-use-ai-to-mimic-ceos-voice-in-unusual-cybercrime-case-11567157402
https://www.cshub.com/attacks/articles/ai-could-escalate-new-type-of-voice-phishing-cyber-attacks
来源：微信，作者：林志佳 DeepTech
