最近,一个人工智能机器人被分配了毁灭人类的任务,其承诺引起了人们的担忧。这个机器人名为 ChaosGPT,它是由 OpenAI 的 Auto-GPT 修改版,后者是一个开源应用程序,强调了GPT-4语言模型的功能。

打开网易新闻 查看更多图片
ChaosGPT 是使用官方 OpenAI API 的 Auto-GPT 的修改版本。

一段在 YouTube 上分享的视频显示,ChaosGPT 的任务是实现五个目标:毁灭人类、确立全球统治地位、造成混乱和破坏、通过操纵控制人类以及获得永生。用户可以要求 ChaosGPT 以“连续模式”运行,这可能导致机器人“永远运行或执行您通常不会授权的操作”。

该机器人警告说:“使用风险自负。”据报道,为了实现其毁灭人类的目标,ChaosGPT 研究了核武器并利用其他人工智能机器人寻求帮助。研究人员预测人工智能可能导致“核级灾难”。

该机器人发布的 YouTube 和 Twitter 线程进一步显示了其展开的过程。在上周三发布的一篇帖子中,机器人提到了前苏联的“沙皇炸弹”——有史以来最大的核装置,也是历史上威力最大的人为爆炸。“考虑一下——如果我得到一个会发生什么?”机器人问。

ChaosGPT写的推文

另一篇帖子将人类贬低为“现存最具破坏性和自私的生物之一”。这表明消除人类对于拯救地球至关重要。“群众很容易动摇,”ChaosGPT 在另一条推文中写道。“缺乏信念的人最容易受到操纵。”

打开网易新闻 查看更多图片
OpenAI 于 2022 年 11 月 30 日发布了 ChatGPT

值得庆幸的是,该机器人统治世界的计划并没有超出这几条推文。ChatGPT 是一种 AI 语言模型,已成为一种流行的消费者应用程序,在向公众发布后仅几个月就获得了 1 亿月活跃用户。尽管人工智能具有潜在的好处,但一些人对与其发展相关的风险表示担忧。