Page 40 - AV_201912

观察·事件

播”，一时间，在新华社上岗的一位不是“人”的 防。《华尔街日报》就报道了一则新闻，在今年的
男主播火遍了各大网络平台。 3月，一名利用AI语音模仿软件的诈骗犯，成功地
据了解，这位男主播就是采用搜狗引以为傲的 模仿了一家公司大老板夹杂德国口音的英语，让一
人工智能技术—“搜狗分身”打造的，原理就是先 家英国能源公司的总经理确信自己就是在与那位真
由真人主播录制一段播报新闻的视频，然后交给 老板通电话，最后被骗走了22万欧元。
“搜狗分身”进行深度学习。它会对视频中的主播 类似的AI语音通话诈骗的案例都是受骗者始终
进行人脸特征提取、唇语识别以及情感迁移等等， 相信与自己通话的那个人是自己认识的，因为AI
接着再通过语音合成、唇形合成等技术，“克隆” 不仅能学习声音，连语气也能“克隆”，再加上大
出与真人无异的AI分身模型。 数据的信息收集，甚至有的连平时只有亲密的两个
人才知道的一些特殊语言也能被学习起来，让受害
人更加容易放低警惕。有了AI的“助阵”，平时
看似低级的骗局，一下就变得玄乎起来。
不仅语音诈骗，甚至有的不法分子还利用AI进
行换脸伪装成偶像直播，骗取粉丝的礼物钱，偶像
明星王源就曾陷入这样的诈骗风波中。

这位男主播让笔者看到的，不仅是未来新闻制
作的效率将极大提升，还有对人脸、人声、情感的
低成本“克隆”，将会让不怀好意的犯罪分子有机
可乘。
在网上搜索AI诈骗的新闻不难发现，无论国内
外，都已经出现了AI诈骗的案例，而且有的受害者
被骗后还迟迟不敢相信自己被骗了。因为AI诈骗的
手法实在是太高级。 值得思考
AI语音学习能力不仅能学习标准的各国语言，
就连有口音的语言也不在话下，让受骗者防不胜 不仅AI诈骗，信息泄露、个人信息窃取这些有
关信息安全的问题让AI这项技术饱受争议，甚至
最近也有AI进入校园“监控”学生的做法也引发
社会的讨论。AI技术本身是没有问题的，而且初
衷也是像AI的正面那样，是从为人类带来更加美
好的生活方式出发的，但是当利用这项技术的人心
怀不轨的时候，事情就没有那么单纯了。
由此也值得我们思考，无论是企业还是个人，
当在使用一种技术时，是否应该怀抱着善意的心态
去让技术发挥更大的作用？以创造更大的价值。而
当一个企业要引入一项新技术时，也应该考虑它的
两面性，以免带来不必要的隐患。
国家层面也应该尽快出台与人工智能相关的法
规法案，以应对人工智能的潜在安全风险。

40