胶囊神经网络会取代传统的神经网络吗?
计算机/软件
0 654
0
该提问暂无详细描述
收藏
2021-01-23 01:46 更新 karry •  1778
共 1 个回答
高赞 时间
0

从长远来看,我会说是的,因为这是深度学习不足的明显方向之一。我们确实需要解决一个问题,即我们没有将我们关于视点不变性的先验知识编码到网络中。

在我看来,另一个明显的问题是如何以快速且可靠的方式进行自动化架构设计。

但是,我怀疑胶囊是否能在现状中做到这一点。我认为我们必须在定义明确的成本函数和定义明确的梯度的意义上找到原则上的实现。同样,它必须足够简结才能被纳入标准。

我最近深入研究了这两篇论文。我发现“胶囊之间的动态路由”与诸如“对象定位是自由的”之类的弱监督方法紧密相关。他们将其扩展到多个阶段,并提供了一种有趣的机制来引导注意力。但是,此机制不是根据损失函数和反向传播来表述的。

虽然这显然是实现胶囊的第一种有趣的方法,但在原则部分中却没有实现。第二篇文章“带有EM路由的矩阵胶囊”对此进行了改进。但是,现在我们在每次迭代的每一层都遇到了高斯混合模型问题。

这在“简单”部分中没有实现,因为我们必须在每次迭代中解决多个机器学习问题。我仍然认为这是一种令人兴奋的方法,我想尝试一下。

因此,总的来说,我认为这是比目前深度学习更重要和有趣的研究方向之一。但是我们不能指望这种想法的最佳实现会直接出现。

via:https://www.quora.com/Will-Capsule-Neural-Network-replace-Traditional-Neural-Networks?top_ans=62218110

收藏
2021-01-23 02:34 更新 anna •  2553