雷军要创翻世界？声音克隆违法，AI标识防骗利器

（原标题：雷军要创翻世界？声音克隆违法，AI标识防骗利器）

21世纪经济报道记者 章驰 实习生 张欣奕

这届网友真是人才！用AI，让大佬们唱、跳、rap 无所不能，玩儿得飞起。

前段时间，有网友用AI把雷军的声音生成了一段骂人的音频，在网上传得沸沸扬扬，有许多人以为这只是在玩梗或者恶搞，但其实已经涉及违法啦！在未获得授权的情况下，使用他人声音进行配音创作，侵犯了声音权人的合法权益；而现在大肆流行的AI数字人直播，未经许可，也是不可以模仿知名人物的。

但别以为这只是名人的烦恼，AI伪造的语音，还可能变成诈骗电话，甚至拐骗儿童的陷阱。之前就有博主自己测评，用AI语音和AI换脸技术生成视频，仅仅用3小时，就骗走了自己母亲2万元工资。试想，如果有人用AI生成语音，伪装成家长诱骗孩童，那该多么可怕！

今年9月我国正式开始施行《AI标识办法》，规定：所有AI生成的内容，都得打上“AI制造”的标签，比如AI生成的音频，要么开头就说“由AI生成”，要么就得带上一段特殊的摩斯电码节奏。这意味着，当我们接到可疑语音、看到可疑视频时，有“AI标识”就能够帮助我们拉响警报，降低辨别成本，成为我们的防骗利器。

当然， 咱们每个人用AI创作时，也请记得主动标一标，让我们一起打造一个更安全的AI新世界！

在《人工智能生成合成内容标识办法》及配套国标正式实施48小时内，21记者实测了35款应用，其中2款未在图片中标识AI，4款未在交互页面标识AI。尤其是APP内置的智能助手，具备深度思考、联网搜索、生成长文的能力，但没有按要求提示AI生成。《AI内容“持证上岗”首测：35款应用，谁是漏网之鱼》

11天后，21记者进行第二轮复测，重点排查了之前未按规定标识AI的应用。除了百度文库的图片标识还没有落实外，其他应用都已经修改到位。