(Note)神经网络中的特征融合方式(add/concate)
HengkaiGuo的回答-知乎https//www.zhihu.com/question/306213462/answer/562776112。对于神经网络中输入的两路特征图,如果通道数相同,则add融合方式等价于concate之后对应通道共享同一个卷积核。使用add融合方式相当于为网络提供了一种先验两路输入的特征图中对应通道的语义特征类似。可以看出,使用add融合方式可以避免不同通道间语义信息
·
在神经网络中,特征主要有两种融合方式:
1. add
2. concate
对于神经网络中输入的两路特征图,如果通道数相同,则add融合方式等价于concate之后对应通道共享同一个卷积核。
即:
使用add融合方式相当于为网络提供了一种先验:两路输入的特征图中对应通道的语义特征类似。
总结:
对于神经网络中输入的两路特征图:
1.使用add融合 = 对应通道的信息融合
2.使用concate融合 = (通过卷积核)将所有通道的信息一起融合
可以看出,使用add融合方式可以避免不同通道间语义信息的混杂。
Reference:
如何理解神经网络中通过add的方式融合特征? - Hengkai Guo的回答 - 知乎 https://www.zhihu.com/question/306213462/answer/562776112
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)