对于残差神经网络中的残差块,块末尾的加法是真正的元素加法还是串联?
例如,会addition([1, 2], [3, 4])
产生[1, 2, 3, 4]
或[4, 6]
?
对于残差神经网络中的残差块,块末尾的加法是真正的元素加法还是串联?
例如,会addition([1, 2], [3, 4])
产生[1, 2, 3, 4]
或[4, 6]
?
这将导致 [4, 6],您可以在本文中找到更多信息
操作 F + x 由快捷连接和元素加法执行
它来自 Microsoft Research 的流行 ResNet 论文。因此它是逐元素加法,因此 [4, 6]