谷歌的Geoff Hinton及其团队为胶囊神经网络申请了专利！
看来谷歌不会很快停止其疯狂申请专利的步伐。本月初，谷歌已为胶囊网络申请了专利。专利申请文件提到的发明人就包括图灵奖获得者、谷歌研究人员Geoff Hinton。谷歌在试图为随机失活（Drop Out）和批规范化（batch normalization）申请专利后，再次关注了另一项流行的机器学习技术。
胶囊网络概述
据提交的专利（https://patents.google.com/patent/WO2019083553A1/en）显示，发明人声称可以使用胶囊网络代替传统的卷积神经网络，用于传统的计算机视觉应用。胶囊网络旨在减少卷积神经网络所出现的多余维度。胶囊网络的三个主要贡献是向量输出、压缩函数和路由。
简而言之，胶囊网络不仅可以确定特征（比如脸上的眼睛和鼻子），还可以确定其位置。确定特征的位置对于计算机视觉任务的对象分类至关重要。一只猫更有可能被胶囊网络分类成猫，因为猫与胡须的位置相关联，与卷积神经网络（CNN）相比执行分类所需的步骤较少。
既然胶囊网络那么好，为什么我们最近没有听说过它？谷歌Brain团队被问及进度时在一个大受欢迎的机器学习论坛上曾打趣道：“胶囊网络还没死。”他们还解释道，他们一直在努力提高胶囊的速度，以便可以解决现实中的实际问题。这需要进行大量的底层优化。他们还声称，胶囊网络已用于医疗图像、文本和音频。
该团队补充道：“我们仍认为胶囊网络是出路，我们在不断寻找它们的优点，但是要让胶囊网络可以进一步处理现实中的实际问题，并成为机器学习工具箱中的标准工具，还需要做更多的工作。”然而与生成式对抗网络（GAN）等其他流行的网络相比，撰写的胶囊网络方面的研究论文数量却很少！
不过，看起来谷歌多少对胶囊网络颇为乐观。
为什么要申请专利？
据美国国家经济研究局的研究显示，早在2010年就有145项美国专利申请提到了机器学习，而2016年有594项。尤其是，谷歌单单在2016年申请的与机器学习和神经网络有关的专利申请就多达99次。
即使在机器学习成为一种全球现象之前，谷歌AI一直是开路先锋，这点不可否认。谷歌的技术被用于造福全球各地的人们。然而，机器学习社区中一大半人仍然对谷歌一贯声称AI发明归其所有的做法持怀疑态度。
像谷歌、亚马逊、微软及其他公司这样的技术先驱坚持它们有意开放其技术，但是这些科技巨头声称对其创新拥有所有权的势头越来越猛。
这涉及两个方面——显而易见的一方面是想靠所有权致富。第二个也是比较隐蔽的原因是，想把专利流氓（paten troll）拒之门外，阻止别人攫取自己的研究成果。
不过在AI这种情况下，大多数想法通常归结为数学运算。因此，除非研究人员表明他们的算法或软件完全改变了硬件的工作机理，否则就很难为某个想法申请专利。
科罗拉多大学的AI研究人员Jürgen Schmidhuber博士警告：“不应该允许谁对深度学习申请专利。我不是一名专利律师。然而，不应该允许谁为别人发表的未被引用的先有技术（prior art）申请专利。”Shcmidhuber博士围绕不当引用阐述了这个观点。然而，如果认真考虑“先有技术”一词，那么大多数深度学习专利都可能遇到麻烦，因为数学至少已有一个多世纪的历史了。
胶囊网络声称特征检测有望优于传统网络。低噪声、高精度的预测对于在边缘设备上运行机器学习工作负载至关重要。如果谷歌设法将胶囊网络推广到实际应用环境，那么该专利无疑将把它置于计算机视觉行业的最高层。