1、卷积与互相关

在深度学习中,卷积中的过滤器不经过反转。严格来说,这是互相关。我们本质上是执行逐元素乘法和加法。但在深度学习中,直接将其称之为卷积更加方便。因为过滤器的权重是在训练阶段学习到的。如果上面例子中的反转函数 g 是正确的函数,那么经过训练后,学习得到的过滤器看起来就会像是反转后的函数 g。

常规卷积(2D卷积):
在这里插入图片描述

2、3D卷积

对比的,2D卷积为全通道的,不会在通道轴上滑动。

3、转置卷积(去卷积)(反卷积)

对应的算术解释:

#普通卷积:
在这里插入图片描述
现在,如果我们在等式的两边都乘上矩阵的转置 CT,并借助“一个矩阵与其转置矩阵的乘法得到一个单位矩阵”这一性质,那么我们就能得到公式 CT x Small = Large,如下图所示:
在这里插入图片描述

4、扩张卷积(Atrous 卷积)

即空洞卷积

5、可分卷积

5.1空间可分卷积(pointwise)

空间可分卷积操作的是图像的 2D 空间维度,即高和宽。
在这里插入图片描述

5.2深度可分卷积(DepthWise卷积)

深度可分卷积操作的是图像的深度维度,即通道。
在这里插入图片描述

5.3 Depthwise Separable Convolution:

先提取区域特征,再提取通道特征
在这里插入图片描述

6、组卷积

在这里插入图片描述

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐