不是AI变坏了，而是“坏人”学会了用AI

4月14日消息，昨日，“央视财经”曝光一条完整的AI“造黄”黑色产业链。只需一张普通照片、几句隐晦“提示词”，几分钟即可生成大尺度视频，最低成本仅9.9元。

这条产业链分工明确：有人兜售教程和提示词，有人开发专用软件，有人通过社交平台批量引流。商家将敏感词翻译成英文写入提示词，引导用户使用境外AI工具或本地离线部署，以此绕过平台审核。

“央视财经”记者实测发现，在拥有1.4亿用户的某知名AI应用中，输入购买的提示词后，几分钟即生成半裸女性跳舞视频，全程未触发任何限制。“哩布哩布AI”等平台同样存在漏洞。一款号称“免下载、快速换脸”的软件，可根据付费金额生成全裸照片和色情视频。

境外AI聊天软件成为另一重灾区。“Dady”“flai”等虚拟陪伴软件通过灰色通道流入国内，以“可开车、无限制词”为卖点，聊天内容几乎围绕色情话题展开。这些软件通过“拉新返利”机制裂变扩张，老用户发帖引流可获金币和充值返利，评论区随处可见下载链接和邀请码。

知情人士透露，推销平台刻意绕过监管，瞄准未成年人群体。今年4月10日公布的《人工智能拟人化互动服务管理暂行办法》已明确安全评估和算法备案要求。2025年4月网信办“清朗”专项行动将未履行备案的违规AI产品列为重点整治对象。

专家指出，境外软件缺乏安全审核，下载后可能带来病毒或信息安全隐患。央视评论称，这不是AI变坏了，而是“坏人”学会了用AI。“日入五位数”的暴利驱动下，AI造黄正从个案演变为工业化犯罪。

消息释出后，有网友评论：“AI绝不能带病“裸奔”，或“先污染后治理”。更有网友呼吁：”AI治理刻不容缓！“”科技进步的同时，监管一定要跟上！“”加强管理，不要毁了未来，任何新东西的诞生都是双面的 有好有坏，就看自己怎么用。“”严厉打击！“