打开

真 · 神经网络发明人福岛邦彦获奖,Schmidhuber、李飞飞点赞

subtitle
机器之心Pro 2021-10-14 16:32

机器之心报道

机器之心编辑部

1980 年,福岛邦彦首次使用卷积神经网络实现了模式识别,他被认为是真正的卷积神经网络发明者。

近日,福岛邦彦(Kunihiko Fukushima)获得 2021 年度鲍尔奖「Bower Award and Prize for Achievement in Science」的消息在学界引来关注。

打开网易新闻 查看更多图片

获奖理由:通过发明第一个深度卷积神经网络「Neocognitron」将神经科学原理应用于工程的开创性研究,这是对人工智能发展的关键贡献。

鲍尔奖是美国奖金额度最高的科技奖,由富兰克林基金会颁发,每人可获得 25 万美元及金质奖章。该奖项在 1994 年曾颁发给杨振宁。在获奖后,福岛邦彦跻身一众著名科学家和诺贝尔奖获得者行列。

2021 年度的鲍尔奖结果在今年 4 月就已公布,最近引起热议的原因是——在本次富兰克林研究所鲍尔奖的颁奖典礼之际,Jürgen Schmidhuber 公开发表了一份贺词:

「毫无疑问,福岛邦彦值得鲍尔奖这份荣誉,基于他在人工神经网络方面的巨大贡献。」

这段 20 分钟左右的视频发布在 Schmidhuber 开通的个人 YouTube 频道上,事实上,该频道目前仅有这一个视频。

「在深度学习的这段历史中,每个人都在使用这种 CNN 架构的变体进行计算机视觉和其他应用研究。」

Schmidhuber 提到,第一个使用卷积和反向传播的人是 1987 年的 Alex Waibel(大约在视频的 5:20 分处)。在视频的最后,他还补充道:「我应该提到的一件事是,福岛邦彦的提名人要求我提供一份支持内容,我告诉他们自己可能存在利益冲突,因为我自己也是这个奖项的被提名者。提名人表示并不介意。」

此外 Schmidhuber 的态度也是很耐人寻味的,有人这样理解:

我不知道算是好笑还是悲伤。Schmidhuber 找到了一种被动攻击的方式,通过祝贺 / 赞扬卷积神经网络的先驱来批评他人。

不管意图如何,福岛绝对值得更多的赞誉。

斯坦福大学教授李飞飞也对福岛的获奖表示了祝贺,她说道:「对于我们这些几十年前学习计算机视觉和神经网络的人来说,福岛邦彦的 neocognitron 理论打开了对象识别神奇世界的大门。这是一个杰作!」

卷积神经网络 CNN 的奠基人

卷积神经网络的发展,最早可以追溯到 1962 年,Hubel 和 Wiesel 对猫大脑中的视觉系统的研究。

20 世纪 60 年代初,David Hubel 和 Torsten Wiesel 从约翰霍普金斯大学和 Steven Kuffler 一起来到哈佛大学,在哈佛医学院建立了神经生物学系。他们们在论文《Receptive fields, binocular interaction and functional architecture in the cat's visual cortex》中提出了 Receptive fields 的概念,因其在视觉系统中信息处理方面的杰出贡献,他们在 1981 年获得了诺贝尔生理学或医学奖。

Hubel 和 Wiesel 记录了猫脑中各个神经元的电活动。他们使用幻灯机向猫展示特定的模式,并指出特定的模式刺激了大脑特定部位的活动。这种单神经元记录是当时的一项创新,由 Hubel 早期发明的特殊记录电极实现,他们通过这些实验系统地创建了视觉皮层的地图。

而将动物的神经网络复制到计算机上,是福岛邦彦最先做到的。1980 年,日本科学家福岛邦彦在论文《Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position》提出了一个包含卷积层、池化层的神经网络结构。他的工作被人们评价为深度神经网络基本结构的开创性探索,是当前人工智能领域的核心技术。

福岛邦彦曾在大阪大学、电气通信大学、东京工科大学、关西大学任教,现在已经从大学退休,被「Fuzzy Logic Systems Institute」聘为特别研究员。除了后来发展出卷积神经网络的 Neurocognition(认知控制),现在深度学习中开始热闹起来的 Attention(注意力)网络背后也有他的身影,他也在上世纪 80 年就提出过 Attention 概念和网络。

福岛邦彦是日本神经网络协会 (JNNS) 的创始主席。此外,他还是国际神经网络协会 (INNS) 董事会的创始成员和亚太神经网络大会 (APNNA) 的主席。

福岛邦彦还获得过许多奖项,他曾获得过 IEICE 成就奖和优秀论文奖、IEEE 神经网络先驱奖、APNNA 杰出成就奖、JNNS 优秀论文奖和 INNS Helmholtz 奖等各种奖项。

在前人的基础上,Yoshua Bengio、Geoffrey Hinton、Yann LeCun 等人自 20 世纪 80 年代开始提倡使用机器学习方法进行人工智能研究,提出了「人工神经网络」(artificial neural network),为机器学习研究奠定了基石。

近年来,多种因素导致计算机视觉、语音识别和机器翻译等技术出现了跳跃式发展,人工智能已经成为整个科学界发展最快的领域之一。

福岛邦彦 1971 年在测试电子视网膜。

下次你用人脸识别解锁手机时,可以感谢一下福岛邦彦的贡献。

参考内容:

https://www.youtube.com/watch?v=ysOw6lNWx2o&feature=youtu.be

https://www.reddit.com/r/MachineLearning/comments/q76js4/schmidhuber_pays_tribute_to_kunihiko_fukushima/

https://www.nhk.or.jp/strl/english/publica/giken_dayori/194/1.html

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。
40赞
大家都在看打开应用 查看全部
网易热搜每30分钟更新
打开应用 查看全部
打开