前两天
@央视新闻发布了一则
“涉黄AI换脸案”的新闻
瞬间冲上了微博热搜
“AI换脸”
相信大家都不陌生
只需要一张照片
通过人工智能深度合成
任何人都能成为视频中
的主人公甚至连表情
和动作都能以假乱真
然而这项新技术
却让一些人
产生了不良想法
有人将涉黄视频
AI换脸成暗恋女生、明星
2020年浙江杭州虞某
接触了“AI换脸”软件
为吸引流量他利用该软件
制作大量淫秽视频并传播
其中有不少都是女明星
据虞某供述
为了吸引更多的关注和流量
他在社交软件上创建了
“浏览群”和“私人定制群”
“浏览群”主要用来传播
“AI换脸”的淫秽视频
其中包括一些经过换脸的视频
当有人提出
“定制换脸”的需求
虞某会将这些人
引入所谓“私人定制群
虞某称只要能看到脸都能换
有人甚至要定制
暗恋女生的换脸视频
除了“心仪对象”
更加吸引人的就是
虞某竟然还将一些
如今流量十分大的明星
也都进行AI换脸满足了
许多男顾客的“欲望”
只要顾客想要看见
哪个明星的脸成为自己
发泄欲望的对象
虞某都会进行AI调整
包括一些大网红
在短短的时间内
虞某先后收取
口令红包200多次
赚取了6万余元
最终被公安机关调查发现
据萧山检察表示
截至案发公安机关
在虞某某所组建的公开群内
查获淫秽视频1200余部
换脸图片1600余张
其中最少的成员有95人
最多则是高达2000多人
虞某某组建该聊天群并在群中传播合成的淫秽视频
最终虞某犯制作
传播淫秽物品牟利罪
判有期徒刑七年三个月
并处罚金60000元
判令被告虞某：
1、删除非法获取的个人信息；
2、公开赔礼道歉、消除影响；
3、赔偿损失共60000元，这些款项将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。
对于这个审判结果
多数网友表示
支持严惩！坚决抵制！
还有网友呼吁
要规范AI使用
也有网友提醒
在网上发布照片要小心
注意保护好自己的隐私
发现不法行为第一时间报警
更有部分网友
联想起了前几天
AI技术“复活”
逝去明星的新闻
大量明星被“复活”
AI技术引发网友争议
近段时间
有网友通过AI技术
“复活”了乔任梁、李玟
张国荣、高以翔等逝世明星
并在短视频平台广泛传播
引发了大量网友的关注
网友用AI“复活”众明星
配着煽情的音乐
这些被“复活”的明星
跟网友亲切地打招呼
音容笑貌宛若生前
但是正是这些
虚拟的过世艺人视频
引发了极大的争议
也引发了逝者家属不满
有过世艺人家属
明确表示不能接受
严厉谴责并抵制这种行为
希望对方尽快下架视频
Yes君注意到
当前AI技术“复活”
逝者现象早已不新鲜
甚至初步形成了一条产业链
比如在一些电商平台上
利用AI技术“复活”
逝者成了一门生意
不少商家称只需要
一张图片和一段音频
就能实现逝者“复活”
标价从几十上百到数千元不等
而且已经销售上百份
不仅如此
在短视频平台上
有博主推出了
AI技术“复活”逝者
的保姆级教程让人震惊
那么AI换脸技术
到底违法吗？
AI换脸用来搞笑
也存在法律风险
对此相关
专家学者表示
“AI换脸”技术
即便只是用来搞笑
或者制作恶搞照片
也有可能涉及
侵犯肖像权、名誉权
造成严重后果的还可能
构成侮辱罪或者诽谤罪
而“AI换脸”技术的滥用
看似是对被侵害的个人
的人格权、肖像权
名誉权、隐私权的侵害
实际上更是对社会
公序良俗的践踏
是对稳定的社会环境
和清朗的网络空间的挑战
侵权人的伏法有力
说明了一个道理：
尽管现在还没有
专门针对AI技术的法律法规
但我国现有的法律体系
已经比较完善足以惩治
运用新技术违法犯罪的行为
最后Yes君想说
AI换脸是新技术
产生的新玩法
但不管怎么玩都必须
在法律法规允许的范围内
绝不能踩线越界
别让不法行为毁了自己