【NIPS-2017】Dynamic Routing Between Capsules

一、Background & Contributions

  • CNN无法解决图片更改角度的问题:一张图片换个角度看应该还是原来的图片,而CNN不能解决角度问题。
  • 胶囊封装了有关它们以矢量形式检测到的特征状态的所有重要信息,比如长度为它们的概率,无论如何旋转或变换角度,概率不改变,只是更改了方向。
  • 较低级别的胶囊将其输入发送到与其输入“一致”的更高级别的胶囊。这是动态路由算法的本质。

二、Model & Algorithm

 向量ˆuj|i 和向量vj越相似,二者点积越大,导致bij变大,从而下一轮迭代中cij变大,继而capsule i转向capsule j对应的权重越大即概率越大。

三、Loss Function:MarginLoss in SVM

vk向量的长度代表概率,采用margin loss。

四、Refs

paper/reading1/

series1/series2/series3(国外小哥,写的不错。翻墙点我)