科技旋涡作者&编辑|孙浩南
网络时代什么最吸引眼球?有人可能会说是美女。

打开网易新闻 查看更多图片

美女确实吸引眼球,但各大平台的推荐来看,真人是更重要的一点。尤其是身处AI发展阶段,各大平台对于AI图片、视频都有着相应的审核制度,为了防止受骗还会进行特殊标注。
但最近的AI已经进化到真假难辨的地步了,你关注的美女博主就有可能是AI生成的,她们不仅骗过了平台推荐,还骗走各位观众老爷的小红心。
1300多个美女都是AI?
曾经有句话叫“跟你聊天的美女背后可能是个抠脚大汉”,现在可能要变成,你百看不厌的美女博主背后可能是一个男人和一堆AI。
近期,网上有人分享了在某平台用AI批量生成美女照片结果成功骗过平台做出1300多个账号的光荣战绩。这里面可能就有令各位观众老爷疯狂心动的那个“她”。
在大多数人的普遍认知中,AI的发展还未到以假乱真的效果,更多的是李逵和李鬼的关系,一眼就能分辨出来。但殊不知,这位网友不但靠AI骗过了平台更是进一步把各位观众老爷的小红心骗走了。
普通人眼中的AI文生图效果是什么呢?五官不自然、AI感明显、六指狂魔等等,我们凭借着引以为傲的眼界一度不把它们放在眼里。此前麦当劳

打开网易新闻 查看更多图片

薯条宣传片中用了11位AI美女,就被不少人吐槽有非常明显僵硬的AI 脸和违和感。
但有时候,AI的发展远超我们的火眼金睛。这些能够骗过平台的AI图片和麦当劳AI美女可就不是一个科技旋涡作者&编辑|孙浩南
网络时代什么最吸引眼球?有人可能会说是美女。
美女确实吸引眼球,但各大平台的推荐来看,真人是更重要的一点。尤其是身处AI发展阶段,各大平台对于AI图片、视频都有着相应的审核制度,为了防止受骗还会进行特殊标注。
但最近的AI已经进化到真假难辨的地步了,你关注的美女博主就有可能是AI生成的,她们不仅骗过了平台推荐,还骗走各位观众老爷的小红心。
1300多个美女都是AI?
曾经有句话叫“跟你聊天的美女背后可能是个抠脚大汉”,现在可能要变成,你百看不厌的美女博主背后可能是一个男人和一堆AI。
近期,网上有人分享了在某平台用AI批量生成美女照片结果成

打开网易新闻 查看更多图片

功骗过平台做出1300多个账号的光荣战绩。这里面可能就有令各位观众老爷疯狂心动的那个“她”。
在大多数人的普遍认知中,AI的发展还未到以假乱真的效果,更多的是李逵和李鬼的关系,一眼就能分辨出来。但殊不知,这位网友不但靠AI骗过了平台更是进一步把各位观众老爷的小红心骗走了。
普通人眼中的AI文生图效果是什么呢?五官不自然、AI感明显、六指狂魔等等,我们凭借着引以为傲的眼界一度不把它们放在眼里。此前麦当劳薯条宣传片中用了11位AI美女,就被不少人吐槽有非常明显僵硬的AI 脸和违和感。
但有时候,AI的发展远超我们的火眼金睛。这些能够骗过平台的AI图片和麦当劳AI美女可就不是一个{redicloud.cn}{www.baoow.cn}风格和量级的了,来看看你能分辨出来吗?
怎么看这都只是平平无奇的美颜照片,最多是高P精修图,但任谁能发现这全都是AI生成的。经过仔细观察,我们发现可能为数不多的瑕疵在于第一张车座的位置不对,好似人违反物理规则坐在了空气上,另外两张照片是一点看不出AI痕迹。
据说,这些真假难辨的AI美女全都来自Flux,之前以生成各种超高拟真度的人物图片而著称,{yingbing.com.cn}{www.qlmb.com.cn}核心成员

打开网易新闻 查看更多图片

都来自Stable diffusion。当然,告诉大家工具可不是让大家去模仿,仅仅只是科普,往下看就知道如果用来盈利会发生什么了。
AI美女生意火热,但合法的不多
今年早些时候,一个APP直播推送页面,有位ID为“靓女百变秀”的账号正在进行直播。直播间内,一位身穿紧身衣的女主播卖力地扭动着身姿,伴随背景音乐跳着热辣劲舞。
直播间内标示有{gcxa.com.cn}{www.198234.cn}“数字主播一切听你的”字样,同时还有“小礼物控制主播”“发以下弹幕调戏主播”的文字提示,所以这位女主播实际上是一个AI虚拟数字人。
据直播间的弹幕互动游戏玩法介绍,用户通过发送“111”“888”“老婆”,即可“调戏主播”,分别对应“主播喊爸爸”“恶龙咆哮”“主播撒娇”。此事被曝出后,该账号已经删去了相关直播内容,并且疑似注销了账号。
我们也曾{21cbr.cn}{www.7pea.cn}就此事咨询过北京鼎世律师事务所合伙人律师李苏阳,他表示:从报道内容看,该直播的内容及形式,无疑属于“擦边”“低俗”,涉嫌“软色情”,可能被认定为“带有性暗示、性挑逗等易使人产

打开网易新闻 查看更多图片

生性联想”以及“宣扬低俗、庸俗、媚俗内容”的不良信息,或违反了《网络直播营销管理办法(试行)》《网络信息内容生态治理规定》等法规的禁止性规定,可能被作为中央网信办2024年{ofkvivn.cn}{www.ccsyff.com.cn}“清朗·网络直播领域虚假和低俗乱象整治”专项行动的重点打击对象。
显然,利用AI主播擦边赚钱并不是一个好主意。那像上述一样只发图片呢?大概率很难赚到钱,毕竟缺乏账号管理,难以变现。而网上还有许多教大家用AI美女赚钱的,想想也知道这是为了让你交课时费。
这种AI换脸的生意稍微想想就可能存在各种法律风险,科技旋

打开网易新闻 查看更多图片

涡提醒大家,切勿盲目操作,小心因小失大{yuyuegege.cn}{www.xinchaoxiaoqu.cn}。而提到AI换脸,就不得不说知名歌星泰勒了,几乎每次AI换脸都让她遇上了。
AI泰勒支持川普,多次换脸受害者
在美国总统候选人卡马拉·哈里斯与唐纳德·特朗普的辩论之后,泰勒·斯威夫特在在Instagram中发布了一条立场鲜明的支持宣言。最近有不实消息称“她支持特朗普”,为此她在此做出澄清。泰勒·斯威夫特还表示,她将在2024年总统大选中投票给哈{a5957.cn}{www.xcjw.com.cn}里斯,因为她“为权利而战”。
在帖子中,她表示发现有人利用AI虚假地宣称我支持唐纳德·特朗普竞选总统,并将此信息发布在了他的网站上。这让我对AI和传播错误信息的危险产生了恐惧。这也让我得出结论,作为选民,我需要非常透明地公开我对这次选举的实际计划。打击虚假信息的最简单方法就是说出真相。
最后,她还表示,会在社交媒体中附上登记地点、提前投票日期和{yxyj59.cn}{www.buyaocom.cn}相关信息。显然,这次AI换脸把泰勒惹急了,此前她对于有关AI换脸黄色照片的事情反应都没有此次激烈。
2024年初,泰勒的一些露骨不雅照片在互联网上疯传,其中一张图片已经被浏览了整整四千五百万次!随后,这些图像被验证是人工智能“深度

打开网易新闻 查看更多图片

伪造”技术生成的,用来恶意诋毁泰勒的公众形象。
科技旋涡认为,虽然利用AI技术制作虚假信息早已有之,但随着生成式AI{ourshi.cn}{www.ymhtwr.cn}在过去一年多时间内的快速发展,对视频、图片、音频进行深度造假技术更加成熟且普遍,造假的成本也更加低廉。
传播学者罗伯特·切斯尼形象地称之为,“说谎者的红利”,前所未有的AI深度伪造焦虑让那个曾经遥远的问题,骤然变得现实而紧迫。
写在最后
人工智能技术是一把双刃剑。在给人类生活带来便利的同时,它也带来了诸多伦理困境。自AI飞速发展以来种种诈骗、违{xppdy.cn}{www.yoera.cn}法案件提醒着我们直面人工智能带来的种种挑战。
不论是虚拟数字主播擦边还是AI美女以假乱真,其背后都是一群追求利益的人在操纵。AI 大模型是人类的镜像,人们投喂给它什么,它就会像一潭有魔力的湖水,反射出人们自己的潜意识与欲望。
在发展人工智能的同时,我们有必要为之设置“防火墙”,唯有如此,我们才能真正驾驭这一划时代的技术,让它更好地造福和帮助人类。