我正在使用 Lasagne 包构建一个简单的卷积网络，并希望添加一个具有简单阈值 [max(0,x-threshold)] 的 ReLu 层，但只能找到没有可训练参数 (lasagne.layers.NonlinearityLayer) 的整流器或有一个正在相乘的参数（lasagne.layers.ParametricRectifierLayer）。这层存在还是我遗漏了一些明显的东西？
感谢您的任何帮助！特里
问问题
546 次
1 回答
0
我认为不存在。原因是您通常在 relu 之前有一个可训练层（例如卷积或全连接），其中包含偏差。将数据移动一些偏差相当于在 relu 处设置阈值。如果在 relu 之前没有可训练层，您还可以显式添加 lasagne.layers.BiasLayer ( http://lasagne.readthedocs.org/en/latest/modules/layers/special.html )
希望这可以帮助
迈克尔
于 2016-03-18T09:06:34.777 回答