AI诈骗！骗子通过智能AI换脸和拟声技术实施诈骗，10分钟骗走430万，各国都在研究如何监管AI

（原标题：AI诈骗！骗子通过智能AI换脸和拟声技术实施诈骗，10分钟骗走430万，各国都在研究如何监管AI）

AI诈骗正在全国爆发！近日，包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。

AI换脸新骗局！有人10分钟被骗430万

据平安包头微信公众号消息，4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。

基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。

值得注意的是，骗子并没有使用一个仿真的好友微信添加郭先生为好友，而是直接用好友微信发起视频聊天，这也是郭先生被骗的原因之一。骗子极有可能通过技术手段盗用了郭先生好友的微信。幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元，但仍有93.16万元被转移，目前正在全力追缴中。

各国都在研究如何监管AI

目前，各国政府正越来越多地研究如何监管并应对人工智能系统的崛起。七国集团（G7）领导人周六（5月20日）共同呼吁制定和采用一项可信赖的人工智能国际技术标准，并认为这一科技前沿技术的监管治理未能跟上其发展的步伐。值得一提的是，这也是G7峰会历史上首次正式讨论人工智能这一新兴技术。

到目前为止，美国在监管人工智能方面采取了相关谨慎的做法，美国总统拜登上个月表示，人工智能是否存在危险仍有待观察。

微软支持的OpenAI首席执行官Sam Altman周二对美国参议院的一个小组表示，美国应该考虑开发人工智能模型的许可和测试要求，其中包括成立一个新的政府机构，负责大型AI模型的授权，并撤销不符合政府标准的公司的相关许可证，并为AI模型建立一套安全标准，包括对其危险性的评估等。

作为今年G7的轮值主席国，日本在G7监管方面要相对更加宽松——日本政府承诺支持公共和行业采用人工智能，同时监测其风险。日本首相岸田文雄上周表示，“妥善处理（AI技术）的潜力和风险很重要。”

在本次G7峰会之前，G7成员国上月底刚刚举行过一场数字与技术部长会议，这次会议声明同意对人工智能采取“基于风险”的监管，声明还列举了政策制定者管理人工智能和其他新兴技术使用的五项原则——法治、正当程序、民主、尊重人权和利用创新机会。

欧盟和美国预计还将于5月30日至31日在瑞典举行的美欧贸易与科技理事会会议上，就新兴技术交换意见。（综合财联社、平安包头微信公众号）

本文源自：金融界