打开网易新闻 查看更多图片

如果机器人知道了你的秘密,你也许会希望它忘掉。

人类无法控制自己的记忆。每个人都会忘记,即使是记忆力超强的人,也会偶尔忘了自己把钥匙放在了哪里。对人类和机器人来说,遗忘都是一件非常复杂的事情,研究人员正以不同方式研究机器人的记忆方式,他们想让机器人学会遗忘。

但这不仅涉及到技术问题,还有隐私、法律和伦理方面的问题。例如,当你答应了家人决定戒烟后,却被机器人发现你在偷偷抽烟,它应该怎么做?如果机器人目睹你杀了人,它又该怎么办?

更重要的是,该谁决定让机器人遗忘?

人为什么会遗忘?

有人开玩笑说,人们会遗忘是因为大脑的储存空间满了,需要给新记忆腾出空间。但是患有“超忆症”的人就推翻了这一说法,这种罕见病能够让人记得过去生活中的每个细节。

另一种解释是,记忆不仅帮我们记住某件事,更重要的是在帮我们理解这个世界。我们更倾向于记住那些有价值的信息,忘掉无用的记忆。比如,有研究表明,人们更容易记住有冲突的信息,而不是单纯重复性的信息。另外,事情越重要、我们的情绪越强烈,记忆也就更深刻。比如许多美国人都能记得2001年9月11日那天他们在哪里做了什么事。

怎么消除机器人的记忆?

计算机的内存通常是指调用存储信息的能力,以及存储此类信息的物理组件。例如,当计算机的工作集不再需要任务时,它就会“忘记”数据,为其他任务释放计算资源。

人工智能的原理也是如此,但是研究人员还面临许多困难。

比如,机器学习算法不知道什么时候该保留旧信息,什么时候该忘记过时的信息。另外,研究人员还面临着“灾难性遗忘”的问题,他们正努力建立可以适应新信息的AI神经网络,避免机器人突然忘记以前学到的知识。最后,若神经网络的神经元在早期学习过程中采用了不良的激活模式,未来学习的能力就会被破坏。

在机器人中储存记忆的另一种方法是象征性的记忆表示法,即用逻辑性的事实来表示知识。

  • 鸟可以飞;

  • Tweety是一只鸟;

  • 所以Tweety也可以飞。

这种高度结构化的表述可以轻松删除,就像删除计算机上的文件一样。不论是相机内的原始运动数据还是基本逻辑事实,这些记忆都可以完整地保留下来。

机器人该忘记哪些内容?

了解人类大脑是如何选择性遗忘的对创造更高级的AI十分重要。和人类一样,机器人也应该记住重要且有用的信息,忘掉那些无用的信息。但是在判断记忆的价值时,还需要让机器人懂得道德、法律和隐私。

聊天机器人进行医疗诊断、智能家居设备监控我们的动作、安保机器人使用摄像机和热成像仪进行巡视,这些都会产生很多数据。这些数据如何处理、由谁处理还未有定论。

亚马逊的Echo是一款智能音响,可通过语音识别接受命令,所以在开启时它一直在监听指令的关键字。2015年,美国阿肯色州发生了一起凶杀案,嫌疑人家中的Echo成为了破案的关键。在调查过程中,警方要求亚马逊提供嫌疑人Echo中存储的数据,但亚马逊认为这会侵犯到消费者的隐私权,许多人也质疑亚马逊是否有权公开消费者的数据内容。

再比如,性爱机器人是否应该忘记他们的客户以及这些客户对它们做了什么。并且谁有权拥有这些数据?谁又可以查看并删除它们?

对人类来说,让机器人何时遗忘是一个巨大的挑战。