代码之家  ›  专栏  ›  技术社区  ›  Hanzy

这个张量流偏压向量的形状正确吗?

  •  1
  • Hanzy  · 技术社区  · 5 年前

    在课文中,我读到以下内容:

    code

    我搞不清偏置矢量的维数。如何添加 (m,1) (1, p) w0 形状正确吗?或者应该 w1 成形 (n, P) 说明 P 上课,我们广播 ?

    w1号 (n,P) 因此,我们的矩阵乘法为每个观察值的每个类预测生成一行非规范化逻辑。那么,在我们的数据中添加一个每类偏差并将其广播到样本数中有意义吗?

    我觉得自己很愚蠢,即使问,但走在我无法调和的例子。。。

    1 回复  |  直到 5 年前
        1
  •  1
  •   tomkot    5 年前

    从技术上讲,将(m,1)张量加到(1,P)张量上,通过广播两次得到(m,P)张量(给出索引(i,j)处的Y_hat等于tf.matmul公司(X,w1)在指数i加上w0在指数j)。然而,这并不是前馈网络应该发生的事情。

    w1确实应该被塑造(n,P),然后偏差被正确地塑造。tf.matmul公司(X,w1)具有形状(m,P),而Y峎hat具有形状(m,P),使用广播(因为它应该具有与Y相同的形状)。