开局一张图，内容全靠编。
这句话，是以前人们讽刺互联网谣言时，最为常用的一句话。
但随着 AI 技术的发展，如今甚至都不需要素材，AI 就能「无中生有」，给你整出一段「连续剧」出来。
比如前段时间，美国总统特朗普声称自己会面临起诉，并将在 3 月 21 日被逮捕。
结果没多久，网上就流传出特朗普被逮捕的「现场照」。
画面中，特朗普与警方激烈交火，双方拿起武器互射，最终特朗普没能成功突围。
不出意外的是，特朗普接受了庭审并泪洒现场，之后过起了牢狱生活。
就在网友信以为真的时候，新闻机构创始人 Eliot Higgins 表明，这些照片都是自己通过 AI 工具 Midjourney 合成的。
这组照片甚至还有后续，之后网上还流传出了特朗普出狱后，在中国安度晚年的照片。
他脱下西装，享受着退休后的生活，比如吃早餐、下象棋、逛菜市场、锻炼身体等等。
（图源微博@吓行）
当然，像这种新闻过于离谱，和普通人关系并不大，一般大家都是看个乐。
但如果 AI 被别有用心的人使用，进而对普通人造成伤害，那问题可就大了。
近日，国内就出现了不少类似的案例。
比如前几天，#女子地铁照被 AI 一键脱衣传播#一事，就冲上了微博热搜。
事件的主角是一位博主，去年 7 月，她在自己的小红书上，发布了一张正常着装的地铁摆拍照片。
但让人没想到的是，时隔几个月后，这张照片被人用 AI 工具 P 成了「裸照」，传遍了全网。
不仅如此，有群聊截图显示，始作俑者还根据这张照片，编造了所谓金主给女生布置任务让其裸露的荒唐故事。
当然，这张地铁裸照很快就被辟谣是假图。
很多网友表示愤慨，如此随便造别人的黄谣，已经触犯到了法律。
在博主的评论区中，不少网友建议博主尽快报警，该博主称正在做走维权程序。
话说回来，幸好这张图中女孩并未露脸，戴了口罩和眼镜，否则将会对这位女孩的名誉造成不可挽回的损失。
事实上，将 AI 技术用在灰色地带，早已经不是什么新鲜事儿了。
早在 2019 年，一个名叫 DeepNude 的 AI 一键脱衣软件，就在网上广为流传。
用户只需上传一张照片，该软件就会自动通过算法，用裸露的隐私部位替换掉衣服。
当时，大量女星的虚假裸露照片在网上流传。
不出意外的是，由于涉及到法律以及伦理问题，DeepNude 很快就被抨击下架了。
发展到后来，什么 AI 换脸之类的软件更为猖獗，不少明星都遭受过困扰。
至此不少国家颁布了相关法律，比如我国于2022 年 11 月 25 日，公布了《互联网信息服务深度合成管理规定》。
《规定》指出，创作者在换脸前，必须征得被换脸者的同意，而且必须标注「由AI 生成」之类的字眼，以免误导大众。
但目前为止，这块儿一直处于灰色地带，依然非常难以监管。
如今 AI 突飞猛进，真怕以后直接生成一部裸露视频，届时中招的人就算跳进黄河也洗不清。
就像前面提到的，今天上面这位女孩，明天可能就会是「你我他」。
一旦潘多拉魔盒被打开，你永远不知道在未来的某一天，自己是否会变成被造谣的对象。
细思极恐有木有？
果同学觉得，AI 是否取代人类都是后话，人类现阶段如何利用 AI，才是急需面对的问题。
技术的进步本该造福人类，但要被不法分子用在歪门邪道上，那就得不偿失了！
技术在发展的同时，相关法律和监管也要跟上，才能避免类似的事情发生。
你认为呢？