谷歌将「胶囊神经网络」申请了专利:声称胶囊网络可替代卷积神经网络

subtitle 云头条 09-28 02:51 跟贴 149 条

谷歌的Geoff Hinton及其团队为胶囊神经网络申请了专利!

打开网易新闻 查看更多图片

看来谷歌不会很快停止其疯狂申请专利的步伐。本月初,谷歌已为胶囊网络申请了专利。专利申请文件提到的发明人就包括图灵奖获得者、谷歌研究人员Geoff Hinton。谷歌在试图为随机失活(Drop Out)和批规范化(batch normalization)申请专利后,再次关注了另一项流行的机器学习技术。

胶囊网络概述

据提交的专利(https://patents.google.com/patent/WO2019083553A1/en)显示,发明人声称可以使用胶囊网络代替传统的卷积神经网络,用于传统的计算机视觉应用。胶囊网络旨在减少卷积神经网络所出现的多余维度。胶囊网络的三个主要贡献是向量输出、压缩函数和路由。

简而言之,胶囊网络不仅可以确定特征(比如脸上的眼睛和鼻子),还可以确定其位置。确定特征的位置对于计算机视觉任务的对象分类至关重要。一只猫更有可能被胶囊网络分类成猫,因为猫与胡须的位置相关联,与卷积神经网络(CNN)相比执行分类所需的步骤较少。

既然胶囊网络那么好,为什么我们最近没有听说过它?谷歌Brain团队被问及进度时在一个大受欢迎的机器学习论坛上曾打趣道:“胶囊网络还没死。”他们还解释道,他们一直在努力提高胶囊的速度,以便可以解决现实中的实际问题。这需要进行大量的底层优化。他们还声称,胶囊网络已用于医疗图像、文本和音频。

该团队补充道:“我们仍认为胶囊网络是出路,我们在不断寻找它们的优点,但是要让胶囊网络可以进一步处理现实中的实际问题,并成为机器学习工具箱中的标准工具,还需要做更多的工作。”然而与生成式对抗网络(GAN)等其他流行的网络相比,撰写的胶囊网络方面的研究论文数量却很少!

不过,看起来谷歌多少对胶囊网络颇为乐观。

为什么要申请专利?

据美国国家经济研究局的研究显示,早在2010年就有145项美国专利申请提到了机器学习,而2016年有594项。尤其是,谷歌单单在2016年申请的与机器学习和神经网络有关的专利申请就多达99次。

即使在机器学习成为一种全球现象之前,谷歌AI一直是开路先锋,这点不可否认。谷歌的技术被用于造福全球各地的人们。然而,机器学习社区中一大半人仍然对谷歌一贯声称AI发明归其所有的做法持怀疑态度。

像谷歌、亚马逊、微软及其他公司这样的技术先驱坚持它们有意开放其技术,但是这些科技巨头声称对其创新拥有所有权的势头越来越猛。

这涉及两个方面——显而易见的一方面是想靠所有权致富。第二个也是比较隐蔽的原因是,想把专利流氓(paten troll)拒之门外,阻止别人攫取自己的研究成果。

不过在AI这种情况下,大多数想法通常归结为数学运算。因此,除非研究人员表明他们的算法或软件完全改变了硬件的工作机理,否则就很难为某个想法申请专利。

科罗拉多大学的AI研究人员Jürgen Schmidhuber博士警告:“不应该允许谁对深度学习申请专利。我不是一名专利律师。然而,不应该允许谁为别人发表的未被引用的先有技术(prior art)申请专利。”Shcmidhuber博士围绕不当引用阐述了这个观点。然而,如果认真考虑“先有技术”一词,那么大多数深度学习专利都可能遇到麻烦,因为数学至少已有一个多世纪的历史了。

胶囊网络声称特征检测有望优于传统网络。低噪声、高精度的预测对于在边缘设备上运行机器学习工作负载至关重要。如果谷歌设法将胶囊网络推广到实际应用环境,那么该专利无疑将把它置于计算机视觉行业的最高层。

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
打开网易新闻,阅读体验更佳
大家都在看