本文经授权转载自：北大新媒体（ID：beidaxinmeiti ）
换脸软件的一夜爆火
这几天，一个叫做“ZAO-逢场造戏”的软件火遍了朋友圈。
这是一款使用AI技术，通过用户上传的一张正脸照，替换影视作品或者小视频中的人物，生成以用户为主角的视频片段的软件。此外还可以制作自己的表情包、和将自己的脸替换到一些合照上，“和爱豆同框”。
该软件8月11日开始限量内测，最初3000名额就压坏了服务器，23日通过苹果商店审核，30日一夜成名，31日11时，有用户留言称“服务器爆了，根本用不了。”
但是，很快，这个软件就因为它的一夜走红，陷入了无数争论之中。
ZAO换脸软件的争论
ZAO虽然满足了用户们当一回“港星”演一回“宫斗剧”的梦想，但也因为其所属公司和用户协议遭到质疑。
但有细心的网友发现，ZAO所属公司为长沙深度融合网络科技有限公司，法定代表人为陌陌联合创始人兼游戏业务部总裁雷小亮，由海南猫咖网络科技有限公司100％控股。而后者由雷小亮和陌陌董事、总裁及COO王力各持股50%。
即是说，这款软件实为陌陌旗下的App。
而AI换脸技术也被用在情色视频黑色产业链中，所以不少人开始担心上传的照片会被不法分子利用。
在这之外，虽然尽管 ZAO 采用了相对严格的认证机制，需要本人进行肖像认证，也不能随意上传公众人物的肖像，但ZAO的用户协议似乎存在着不少猫腻：
法律大V博主@法山叔由此指出：
“ZAO”换脸app涉嫌过度攫取用户授权，让你在无形中将自己的肖像权拱手让人，以后你的脸将完全有可能被别人随意使用，变换；
“ZAO”并没有获得换脸明星们的肖像权授权，涉嫌侵权，但当明星认为自己的权利受到侵害时，“ZAO”app完全有可能将法律责任的锅全部甩给你，让你自己承担侵权苦果。
“
首先，我们先来看看ZAO的用户协议。用户协议第6条第1款规定：“在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予zao及其关联公司以及zao用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑...”以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利。"
这是什么意思呢？你在正式使用该app以前，是要上传自己肖像的，不仅静态，还有动态，而当你选择使用这个app以后，根据协议内容，该app除了可免费使用并修改你的肖像，还可以将它任意授权给自己想授权的第三方，当做信息进行贩卖。所以当有一天，你在zao或者其它关联平台上发现你的脸被随意变换、不再属于自己的时候，你想起诉zao，不好意思，它会拿出这个协议来堵你的嘴，告诉你你自己早已同意。
其次，我们再来看看关于侵权的规定。第6条第2款明确规定：“如果您把用户内容中的人脸换成您或其他人的脸，您同意或确保肖像权利人同意授予‘zao’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利。”
这是什么意思呢，比如现在你将杨幂的脸换成自己的脸，你除了要保证自己永久、不可撤销地把自己的肖像免费给zao使用，还要保证杨幂同意zao及关联公司使用她的肖像...但你又不是杨幂，你怎么能确保？这不搞笑吗。而他这么做，说白了，就是因为自己没钱拿到明星们的授权，日后侵权，它们可以将锅甩给你们。
而在此情形下，协议第七条第7款规定：若您侵害他人名誉权、肖像权、知识产权等合法权利的...zao可以诉诸行政执法机构或司法机关，追究相应法律责任。若因您违反本协议或zao平台的其他规则导致任何第三方损害的，您应当独立承担法律责任并承担损害赔偿责任；zao及其关联公司遭受损失的，您也应当一并赔偿。
意思即，如果杨幂状告zao，主张自己的肖像权被zao平台滥用，那zao完全可能说这不怪我，技术无罪，要怪就怪这些换你脸的用户，并且，即使zao承担了平台责任，其也完全可以起诉具体用户进行追偿。总的来说，他们把自己的屁股擦得非常干净，将侵权的苦果全部甩给了用户。
——@法山叔
”
同时，质疑声越来越大的时候，微博突然撤下了有关ZAO的热门。ZAO也没有正面发声。
潘多拉魔盒的开启
关于AI换脸技术，相信很多人已经不再陌生，早在今年4月，女主播换脸唐嫣、刘亦菲的视频，和一段把朱茵在《射雕英雄传》中扮演的角色“黄蓉”的脸替换成杨幂的视频，就已经登上了热门话题的排行。
追溯至2017年12月，一个ID名为“deepfakes”的Reddit用户首次将自己制作的一些AI换脸视频发在网上，其中包括将情色电影里的女主角换成盖尔·加朵等好莱坞明星。随后，“deepfakes”直接开源了其AI换脸项目的代码。
渐渐地，AI换脸项目实施的门槛越来越低，现在只需要一个GPU和一些训练数据，就能够制作出以假乱真的换脸视频。
在之前北大新媒体的另一篇文章：《今天，大佬们在新智元AI技术峰会说了啥？会议笔记分享》中，也有关于AI人脸融合技术的讨论。
这项技术及可以带来创新的应用，比如虚拟试衣，让网络交易更加称心如意；比如影视制作，弥补缺失的镜头，也能够替换人物，完成一些特殊需求。
在著名的《速度与激情7》电影末尾，就利用人工智能合成技术将已故主演保罗·沃克的脸部完美呈现在了观众面前。现在，这项技术还可以提供人人皆可换脸圆梦的快捷简单的服务、丰富广大网友休闲娱乐的生活。
但是，在美国总统特朗普宣布中止全球气候变化协议后，比利时某政党便利用AI视频换脸术，对相关视频进行了篡改，并发布了一段名为“特朗普宣告比利时政府也应当退出”的虚假视频，引发了比利时民众的愤怒。
不难想象，AI视频换脸术被用在此类“以假乱真”的假视频之上，其后果可能极为严重。
与此同时，AI视频换脸术还存在着严重的道德、伦理隐忧。比如用来进行恶搞、报复前男友前女友或是换脸情色电影。目前，已有诸多公众人物就此躺枪。比如，某些受害者的头像被换到了某些成人视频的主人公脸上，并被人上传至成人视频网站，引发了诸多社会道德的争议。
虽然，AI落地目前仍存在的一些困境，但在网络安全与网络犯罪是日益与社会息息相关的今后，当如同“ZAO”等一系列操作简单，又可以快速传播的换脸软件，抓住机会迅速发展的同时，将用户隐私流入暗网，被不法之人滥用，那么后果会怎样呢？
在2019世界人工智能大会上，腾讯研究院助理院长程明霞提到这一App一夜走红时表示，这一方面可以看到人们对AI非常感兴趣，踊跃地上传自己的脸查看效果，另一方面如果仔细查看用户条约也存在着潜在的风险。
“很多时候，我们提到的科技向善是指这种，可以用在我们的日常生活、娱乐生活当中的技术到底对我们的生活起到什么样的影响。”程明霞说。
参考资料：
宁佳彦.第一财经资讯.换脸APP一夜刷屏朋友圈，成人工智能大会热议焦点
李超凡.爱范儿.一夜爆火，这款换脸 App 可能会把你的脸「卖掉」
祖爽.中国商报.换脸软件ZAO火了 但它安全吗
Lens.WeLens.刷屏的“换脸”，有什么风险？
沈臻懿.AI视频换脸术