代码之家 › 专栏 › 技术社区 › Jonathan

为什么U-NET的上采样层没有激活功能?

conv-neural-network artificial-intelligence neural-network machine-learning

Jonathan · 技术社区 · 6 年前

在 U-net ,在所有层中都有激活功能,但在上采样层中似乎没有激活功能(即使用转置卷积完成)。为什么这比具有激活功能提供更高的效率?

据我所知,激活函数提供非线性。所以,这个问题实际上是,保持转置卷积的线性有什么好处,但是保持不 -规则卷积上的线性。在这些层中有一个激活功能不是总是最好的吗?

我唯一的直觉是,也许,他们正试图保持向上采样与常规形态插值方法密切相关。

1 回复 | 直到 6 年前

gab 6 年前

我认为你的解释是正确的:他们只是试图保持与经典插值操作类似的过程,因为架构具有更好的可解释性(虽然仍然允许网络的灵活性,但仍然可以学习升迁的最佳权重)。一般来说,如果你想增加更多的非线性,你可以在这个水平之后进入任何想要的激活功能(比如relu),但就我个人而言,根据我的经验,我会说性能不会改变太多。

推荐文章

rob me of my freedom · 在不使用Y_pred和Y_actual的tensorflow中编写自定义损失

2 年前

fateme · MATLAB,神经网络

2 年前

Chris · ROC公制in train(),插入符号包

6 年前

Christopher Brown · 将二维模型跨过图像以生成标签图像(不是卷积)

6 年前

user9851027 · 强化学习、深度学习和深度强化学习之间有什么区别?

6 年前

sanity_overflow · 在机器学习的多类分类中,“一对一”和“一对一”策略有什么区别?

6 年前

Mitch · XOR神经网络收敛到0.5

6 年前

Mauro Gentile · 在Keras中使用earlystoping回调时,如何获得最佳模型?

6 年前

Funzo · 如何计算一个矩阵中所有行相对于另一个矩阵中所有行的余弦_相似性

6 年前

Helen · Keras解释:输入层中的节点数

6 年前