logo

脸书AI创造人类不理解的语言?这件事完全是子虚乌有

subtitle 网易智能08-02 21:00

  【网易智能讯8月2日消息】今天的报纸刊登了一则独家新闻——人工智能(AI)可能会对我们构成威胁。英国镜报称:“智能机器人存在危险性”:在Facebook人工智能“研发自己的语言”后,专家的对这种行为发出警告。类似的故事也出现在太阳报、独立报、电讯报以及其他在线出版物上。这听起来像是科幻电影里的情节——太阳报甚至还增添了几张看着很吓人的机器人图片。

  那么,我们应该感到恐慌并为机器可能带来的灾难做好准备吗?

  可能还不需要。一些伟大的智者——包括史蒂芬.霍金——担心有朝一日人工智能可能会威胁人类,但关于Facebook的故事却没什么可担心的。具体到这件事,Facebook的AI从未发明自己的语言(Facebook人工智能研究院并未声明自己的语言)。

  那么,这个故事是从哪里来的?

  早在今年6月,Facebook就发布了一篇博文,内容是关于聊天机器人程序的有趣研究——它与人类或其他机器人进行了简短的、有设定文本的对话。NewScientist杂志和其他一些媒体都报道了这个故事。

  Facebook一直在尝试通过机器人来解决虚拟物品的所有权问题。

  这是为了理解语言学是如何影响谈判各方讨论方式所进行的尝试,关键是,这些机器人被编程来进行语言试验,以观察它们在讨论中是如何影响它们的优势的。

  几天后,一些媒体报道了这样一个事实:在一些案例中,机器人之间的对话,第一眼看上去就会感觉毫无意义:

  尽管一些报道暗示,机器人在这一点上发明了一种新语言,来蒙混人类主人,但更好的解释是,神经网络只是为了更有效的互动而简单地修改了人类语言。

  正如科技新闻网站Gizmodo所说:“在他们试图相互学习的过程中,机器人开始用一种衍生的速记法来交谈——尽管看起来有点可怕,但事实就是如此。”

  与电影不同,人类和机器并不是在试图杀死对方。

  为了更好地计算一项任务,我们需要重新设计英语,这并不是什么新鲜事。

  谷歌报告称,其翻译软件在开发过程中已经做到了这一点。“网络必须对句子的语义进行编码,”谷歌在博客中说。

  今年上旬,连线杂志报道了OpenAI的一名研究人员,他正在开发一种系统,在这个系统中,人工智能发明了自己的语言,提高了他们快速处理信息的能力,从而更有效地解决了难题。

  这个故事似乎在最近几天出现了第二种声音,或许是因为Facebook首席执行官马克.扎克伯格和科技企业家埃隆·马斯克之间关于人工智能潜在危险的谈论。

  但是,报道的方式更多的是关于文化的恐惧和机器的表现,而不是关于这个特定案例的事实。

  另外,让我们面对现实吧,大屏幕上机器人只会成为大反派。

  但在现实世界中,人工智能是目前研究的一个大领域,目前用于设计和测试的系统越来越复杂。

  这样做的一个结果是,神经网络是如何产生它们的输出的,这一点一直不太清楚——尤其是当两种神经网络在没有人类干预的情况下相互作用时,就像在Facebook中的实验一样。

  这就是为什么有些人认为把人工智能放在诸如自动武器这样的系统中是危险的。这也是为什么人工智能的伦理是一个快速发展的领域——未来科技肯定会更直接地影响我们的生活。

  大多数聊天机器人的功能都十分有限,因此和机器人聊天十分无聊。但Facebook的系统被用于研究目的,而不是用于面向公众的应用程序,它之所以被关闭,是因为它做了一些团队不感兴趣的事情——不是因为他们认为自己是在对人类的生存威胁中栽跟头。

  同样重要的是,聊天机器人的发展是非常困难的。事实上,Facebook最近决定限制其Messenger聊天机器人平台的推出,因为它发现很多聊天机器人无法解决70%的用户问题。

  当然,聊天机器人可以被编程成人类的样子,甚至可能在某些情况下欺骗我们——但我们认为它们策划一场叛乱是不太可能的。至少,Facebook上的那些人肯定不会。

  【英文来源:BBCNews编译:网易见外智能编译平台审校:Simone】

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。
热门跟贴
大家都在看