为了防止艺术作品数据被滥用，为了守护艺术创作者的版权，贯彻爱与真实的邪恶，可爱又迷人的有毒角色~~Nightshade闪亮登场了，就是这样~喵~~~~
笑问客从何处来
前段时间美国好莱坞罢工闹得沸沸扬扬，数字肖像的风波矛头直指AI技术。与此同时，由AI生成的一幅幅画作也让世人见识到了人工智能的无限魅力，当然，背后也有很多艺术创作者们纷纷站出来表示自己受版权保护的作品材料和个人信息在未经同意或未获赔偿的情况下被人工智能公司无情地抓取榨干。于是乎，如何阻止AI剽窃艺术创作者的作品也成为了当前的热门话题。
为了保护艺术创作者及其作品，为了反击那些未经创作者允许就使用他们的作品来训练其模型的人工智能公司，比如 OpenAI、Meta、Google 和 Stability AI 等。芝加哥大学的赵教授（Ben Y. Zhao）领导团队研究出了一款名叫 Nightshade 的工具，希望通过这一工具来阻止人工智能公司侵犯艺术创作者的版权和知识产权的行为。
这个工具，暂且称之为龙葵吧，允许艺术创作者在他的作品中添加一些不可检测的像素，这些像素将会破坏AI的训练数据，从而对图像生成的人工智能模型造成损害！真的是有毒啊！
且看龙葵大展身手
使用龙葵来“污染”这些训练数据可以损害图像生成的AI模型，例如 DALL-E、Midjourney 和 Stable Diffusion 等，使它们的输出结果变得一无是处，牛头不对马嘴，比如狗变成了猫，汽车变成了牛，等等等等，直接上一张图，大家来见证这一奇迹。
这张图的生成过程是，研究人员先向 Stable Diffusion 提供了仅仅50张“中毒”的狗的图像，然后要求 Stable Diffusion 自己来生成狗的图像，这时的输出就开始变得奇怪了，产生了一只变异的狗狗！当有了100张受污染的样本图像，生成的图像开始由狗向猫过渡，竟可以当成一个表情包！当有了300张受污染的样本图像，Stable Diffusion 生成的狗，竟然像猫一样。其他“中毒”的图像也产生了类似的奇葩效果。
再来看下面这张图。
生成式人工智能模型非常擅长在单词之间建立联系，但这一特性更加有助于有毒数据的传播。龙葵不仅污染了单词“狗(dog)”，还会污染类似的概念，比如“小狗(puppy)”、“哈士奇(husky)”和“狼(wolf)”。龙葵还会污染间接相关的图像，例如，如果AI模型抓取了一个有毒的图像（用于提示“奇幻艺术(Fantasy art)”），那么提示“龙(A dragon)”和“《指环王》中的城堡(A castle in the Lord of the Rings)”也会被类似地污染成其他东西。太神奇了吧，真的是用魔法打败魔法啊！
好戏才刚刚开始
赵教授的团队计划将龙葵开源，允许其他人对其进行调整优化乃至衍生出不同的版本。赵教授表示，使用它的人越多，这个工具的威力就会越大。AI大模型的数据集可能包含数十亿张图像，因此更多有毒的图像数据被抓取到模型中，对模型造成的损害就越大。
来吧，互相伤害吧！好戏才刚刚开始！
都看到这儿了，顺手就“点赞+关注”了呗，一起讨论与分享。非常感谢您的支持！ 文：AI小狂人
#妙笔生花创作挑战#