代码之家 › 专栏 › 技术社区 › John

tensorflow中两个相同秩张量之间的广播

tensorflow-xla array-broadcasting tensorflow

John · 技术社区 · 7 年前

x 和 s 关于形状:

> x.shape
TensorShape([Dimension(None), Dimension(3), Dimension(5), Dimension(5)])
> s.shape
TensorShape([Dimension(None), Dimension(12), Dimension(5), Dimension(5)])

我想在两人之间播放点积 x 通过维度 1 具体如下:

> x_s.shape
TensorShape([Dimension(None), Dimension(4), Dimension(5), Dimension(5)])

x_s[i, 0, k, l] = sum([x[i, j, k, l] * s[i, j, k, l] for j in range (3)])
x_s[i, 1, k, l] = sum([x[i, j-3, k, l] * s[i, j, k, l] for j in range (3, 6)])
x_s[i, 2, k, l] = sum([x[i, j-6, k, l] * s[i, j, k, l] for j in range (6, 9)])
x_s[i, 3, k, l] = sum([x[i, j-9, k, l] * s[i, j, k, l] for j in range (9, 12)])

我有以下实现:

s_t = tf.transpose(s, [0, 2, 3, 1]) # [None, 5, 5, 12]
x_t = tf.transpose(x, [0, 2, 3, 1]) # [None, 5, 5, 3]
x_t = tf.tile(x_t, [1, 1, 1, 4]) # [None, 5, 5, 12]

x_s = x_t * s_t # [None, 5, 5, 12]
x_s = tf.reshape(x_s, [tf.shape(x_s)[0], 5, 5, 4, 3]) # [None, 5, 5, 4, 3]
x_s = tf.reduce_sum(x_s, axis=-1) # [None, 5, 5, 4]
x_s = tf.transpose(x_s, [0, 3, 1, 2]) # [None, 4, 5, 5]

我知道这在内存中效率不高,因为 tile . 而且 reshape 的, transpose 的 element-wise reduce_sum s运算可能会影响较大张量的性能。有什么办法可以让它更干净吗?

2 回复 | 直到 7 年前

DomJack 7 年前

你有证据表明 reshape s很贵?以下内容使用了重塑和标注广播:

x_s = tf.reduce_sum(tf.reshape(s, (-1, 4, 3, 5, 5)) *
                    tf.expand_dims(x, axis=1), axis=2)

Jie.Zhou 7 年前

s 具有 tf.split 转化为四个张量,然后使用 tf.tensordot 为了得到最终结果,像这样

splits = tf.split(s, [3] * 4, axis=1)
splits = map(lambda split: tf.tensordot(split, x, axes=[[1], [1]]), splits)
x_s = tf.stack(splits, axis=1)

推荐文章

nullgeppetto · 零(按行)“numpy”数组的元素小于给定向量的值

7 年前

massphoenix · 不一致维度对象上的numpy ravel

7 年前

Alex · 使用3d阵列的numpy广播

7 年前

greenoldman · NumPy是否提供分层广播?

7 年前

John · tensorflow中两个相同秩张量之间的广播

7 年前

bluesummers · Scipy中的自动广播

7 年前

keepAlive · 这种numpy选择行为背后发生了什么?

7 年前

pseudomarvin · 矢量化numpy掩码设置

7 年前

Xu Zhang · 在numpy中,如何将向量乘以数组/矩阵元素?

7 年前

benjimin · 食人魔的数据类型是可以指定的吗?

7 年前