近期，在一些网络平台的直播间，你会发现正在带货的主播竟是“知名女星”，更加神奇的是，“知名女星”们可以同时出现在多个直播间带货。然而，当你定睛一看，这些带货主播并非明星本人，只是使用了AI实时“换脸”技术的普通主播。
一些直播间使用“AI换脸”技术冒充明星脸进行直播，足以以假乱真，据记者了解，在网上购买一套AI实时换脸的模型仅需3.5万元，花几个小时的时间就可以完成，可以随意替换素材使用。
不少消费者购买某种商品，原本是冲着带货的明星来的，此种“换脸”带货的主播，并非明星本尊，却误导消费者，以明星之名推动了实质的交易买卖，这在某种程度上构成了对消费者的欺诈。
此外，此种行为侵犯了被冒用明星的人身权利。我国民法典的规定，自然人享有肖像权，有权依法制作、使用、公开或者许可他人使用自己的肖像。任何组织或者个人不得利用信息技术手段伪造等方式侵害他人的肖像权。这些主播没有事先经过相关明星许可授权，利用AI换脸技术，模仿他人的形象，伪装成为他人在直播间带货盈利，侵犯了他人肖像权；如果指名道姓，使用了他人姓名，则侵犯了姓名权。如果带货过程中有故意丑化或者损毁的情形，导致被换脸的人名誉受损、社会评价降低，则涉嫌侵犯了他人的名誉权。
随着生成式AI技术的兴起，AI换脸、拟声等以假乱真的程度越来越高，但同时，相关技术被一些不法分子滥用，被用于实施诈骗、敲诈勒索、侵权等不法行为中。包头警方曾发布一起利用AI换脸技术实施电信诈骗的典型案例，骗子首先“攻陷”了被害人好友的微信，然后用AI合成了其好友的脸和声音，通过视频聊天骗取其信任，被害人10分钟内被骗430万元。
对于这种乱象必须加以治理。《互联网信息服务深度合成管理规定》，明确使用AI换脸技术或合成人声服务时，应有显著标识，以免公众混淆。因此，相关平台要落实管理要求，做好内容的审核、监管，警示和提醒，利用技术手段和管理制度，建立健全对违法、不良信息的识别和阻断机制，配合执法机关，共同打击不法行为，维护网络安全秩序。与此同时，相关部门应该建立专门的人工智能安全机构，制定人工智能标准，对AI技术进行管理和监督；执法部门对于利用相关技术进行违法犯罪行为的，要严厉查处，提高违法成本。
眼见不一定为实，面对此种乱象，作为网友也要提高安全意识和识别辨别的能力。保管好个人信息，不要随意向陌生人透露人像视频、身份证照片等信息。在使用社交平台时，要注意设置隐私权限，避免个人信息被滥用或泄露。在接到要求转账的电话或视频时，要保持警惕，切实核实好对方身份。网上购物要保持理性，不轻信虚假宣传，避免上当受骗，不给骗子可乘之机。