前一段震惊全网，利用 AI 换脸和语音合成工具的诈骗案件估计大家也听说了。据微信号平安包头介绍， 福州市某科技公司法人代表郭某，收到好友的微信视频后按照好友要求打款为其提供保证金，在 10 分钟内被骗子骗走 430 万元。
利用AI数字人和声音合成技术诈骗在海外也有类似案例。
几个月前，TikTok 上疯传着乔·罗根（Joe Rogan）为一种名为 Alpha Grind 的壮阳药产品带货的视频。
在 TikTok 短视频片段中，乔·罗根谈及这款号称能提升男性睾丸激素 100 到 200 点的产品，引导观众在亚马逊中搜索找到这个产品，在视频中为观众贴心地准备了 15% 的优惠券。
他说：“这款产品能让你的下体增大，你能感受到真实有效！”
乔·罗根也会赞助推广黑五类产品！明星吃相也这么难看了么！
可能乔·罗根不为我们中国人所熟知，乔·罗根绝对算的上是顶流明星。罗根在许多领域颇有建树，从喜剧表演到电视和电台主持，以及作为 UFC（终极格斗冠军赛）的解说员。
乔·罗根最为人熟知的可能是他的播客节目《乔·罗根经验》（The Joe Rogan Experience），罗根在其中与各行各业的嘉宾进行深入访谈。节目的主题涵盖了科学、哲学、文化、体育和时事等各个领域。《乔·罗根经验》已成为全球最受欢迎和最畅销的播客之一，每周都会吸引数百万观众。
在 UFC 和 MMA 领域，乔·罗根也有着巨大的知名度和影响力。作为 UFC 的最为著名的解说员，罗根以他深入的战术分析/对选手动作的解说和对比赛策略的评估而闻名。
作为这样一个在美国以及全球范围内非常知名和备受关注的媒体人物，他的推荐和背书对于产品和品牌来说具有重要的商业价值。
那么卖家和品牌如果想要和乔·罗根合作，价格一定很昂贵么？上述的这段“真实得令人毛骨悚然”的乔·罗根带货视频，是用语音合成和数字人 AI 工具制作而成，成本近乎为零！
这样的顶流名人有着庞大的粉丝基数和在粉丝群体中的强大号召力，结合真伪难辨的 AI 生成内容，用投流的方式在 TK 快速放大，这样的策略能获得的收益之大简直难以想象。
该视频在舆论发酵后被 TikTok 官方下架，所属的账号也被封禁。不过，在视频下架前的短短几天内，该视频就获得了超过 500 万次观看。
TikTok 官方也意识到 AIGC（人工智能生成内容）所存在的伴生风险。在今年 4 月 21 日，TikTok 官方在更新了的社区指南中加入 AI 生成内容规则。任何 AI 制作的内容必须予以标记，同时明文规定不得使用公众人物形象作为政治或商业背书应用。
AIGC 之势不可阻拦，这是内容相关行业从业者的共识。内容的生产方式被彻底改变，内容生产效率大幅度提升。但，也带来了新的安全和法律风险。