看到那条AI合成的“刘欢妻子”视频,我心里堵了一下。声音说着“老刘他走了”,镜头一转就挂上了“黄精五黑粉”的链接,还写着“家人一直在用”。一个人刚走,尸骨未寒,就被人用假声音假画面拉出来卖货。
这不是恶作剧,这是有组织有分工的生意。
但我想说的不是骗子有多缺德。
骗子从来都有,缺德的人哪个时代都不缺。
我想说的是,这条视频能从生产到发布到推荐到成交,一路走完平台所有的关口,最后出现在用户手机屏幕上,这件事本身比骗子更值得追问。
平台不是没有能力识别。涉政、涉恐的内容,平台的人脸识别、语义识别、风险预警系统能做到精准研判、即时拦截。
这套技术不是摆设,是真管用。但到了仿冒名人带货这里,同样的技术突然就失灵了。为什么。因为涉政涉恐拦不住,平台要挨罚,要被约谈,要掉帽子。
仿冒名人带货拦不住,最多被举报下架,成本几乎可以忽略。
这不是能力问题,这是优先级问题。
平台把审核资源分配给了监管压力最大的领域,而不是危害最大的领域。
一个AI假视频,从发布、审核、算法推荐、挂商品链接到支付结算,要过平台好几道关口。
每一道关口都是人设计的,都是可以调整的。能一路绿灯走完,说明这些关口在“名人带货”这个品类上,本身就没设防。
更关键的是,平台在这条链条上不是一个旁观者。每成交一单,平台分一笔佣金,拉动GMV增长。
算法看到这条视频互动数据好,就认定它是“优质内容”,加大流量推送。骗子赚的是带货的钱,平台赚的是抽成的钱,算法赚的是流量的钱。三方都从这条灰色链条里获益,只有被冒充的人和被欺骗的消费者在受损。
所以平台说“技术中立”,说“避风港原则”,这话站不住。避风港原则是保护不知情的服务商,不是保护装睡的人。你明明有能力识别,明明在别的品类上识别得很准,偏偏在这个品类上“不告不理”,这不叫中立,这叫选择性失明。
有人可能会说,平台内容那么多,不可能每条都审。这话对一半。但仿冒名人带货不是普通内容,它有明确的特征:账号名称挂着名人旗号,视频里用了AI合成的声音或画面,商品链接和名人本人毫无关系。
这些特征都是可以被规则捕捉的。平台不给这类账号做实名核验,不给AI合成内容打标识,不在发布前做拦截,不是做不到,是不想做。
治理这件事,靠平台自觉没用。平台算的是经济账,只要收益大于成本,它就没有动力改变。要让平台真正动起来,得把账本翻过来。
监管层面,AI仿冒名人带货应该被明确纳入强监管清单。涉名人带货账号必须实名核验,AI合成内容必须主动标识,举证责任从“通知后删除”转向“发布前审核”。你平台既然能从这条链条里抽成,就得承担对应的审核义务。
司法层面,逝者近亲属依人格权主张精神损害赔偿,这个口子要开得更大。恶意牟利者适用惩罚性赔偿,罚到肉疼,才能形成真正的震慑。
现在的问题是,骗子被抓住的成本太低,平台被追责的概率太小,所以这条灰色链条一直转得动。
平台不只是商业公司,它也是公共文化空间。一个人走了,他的声音和形象还被拿来骗人,这种事发生一次是骗子的错,发生很多次就是平台的失职。
删再多号也没用,按下葫芦浮起瓢。
只要平台“重收益、轻治理”的底层逻辑不变,只要风险还能甩给用户和社会、利润还能留在灰色链条上,这种荒唐事就会一直冒出来。平台不能只算经济账,社会账也是账,而且这笔账迟早要还。
