2月26号,王劲松发了一条微博,就八个字:“太可怕了,视频。”底下配图是他投诉盗用视频的截图。他没多说,但看得出真急了。这事不是闹着玩的——他本人录的电视剧片段,被拿去AI换脸、换声、换台词,推一个叫“RWA赛道”的理财骗局。连他家人都分不清是不是他本人。

打开网易新闻 查看更多图片

这不是第一次。靳东早被搞过,假账号跟中老年粉丝谈恋爱,骗贷款;温峥嵘在直播间被人拉黑,因为她说“我不是AI”,对方直接不认她;全红婵的声音被克隆卖土鸡蛋,李梓萌的脸被贴上鱼油广告,唐国强、姚明、于和伟全躺枪。不是挑人,是批量操作。

打开网易新闻 查看更多图片

技术越来越熟,人却越来越难自证。以前假视频晃眼就能看出来,现在得放大帧数比口型。王劲松说,以前觉得做得差,现在家里人看了好几遍都说“就是你”。这不是演技问题,是技术已经绕过了人的基本判断力。

打开网易新闻 查看更多图片

平台删得快,但删不完。微信下架了一个视频,快手、抖音、小红书角落里还藏着同款。举报靠艺人自己截图、发博、等审核,没人提前拦着。监管罚过北京那家公司,罚了钱,但同类账号换个马甲又冒出来。法律写了肖像权、声音权,可真出事了,艺人得先请律师、做鉴定、跑法院,时间精力全砸进去。

打开网易新闻 查看更多图片

更麻烦的是,这已经不是“冒充明星带货”这么简单。银川有公司经理,视频里亲眼看见“老板”让他转账20万;湖北有老人,电话里听见“孙子”哭着要救命钱——结果全是AI拟声+换脸。技术没坏,坏的是用法,和没人盯紧它。

打开网易新闻 查看更多图片

有人问,能不能给AI打个码?打水印?强制标“本内容含AI生成”?这些方案都在提,但没一个落地。王劲松晒投诉截图那天,视频是删了,可后台算法还在跑,训练数据还在收,新账号正在注册。

打开网易新闻 查看更多图片

AI不会撒谎,但它被装上谎言的嘴和脸。
王劲松不是第一个,也不会是最后一个。
他发完那条微博,再没更新。

打开网易新闻 查看更多图片