tensorflow - 在 Tensorflow 中处理来自 tf.nn.dynamic_rnn 的输出

Question

我将一个 3 层 LSTM 传递给该tf.nn.dynamic_rnn函数。我想以dynamic_rnn一种特定的方式处理函数的输出：也就是说，我想让dynamic_rnn输出流到一个完全连接的层。的输出dynamic_rnn是 rank-3 张量，形状为[batch_size, sequence_length, hidden_dim].

我曾经将output[:, -1]其形状为 的传递[batch_size, hidden_dim]给 FC 层，因为我曾经只想使用dynamic_rnn.

但是，这次我想使用整个序列的输出，即output[:]，它是一个 3-d 张量，但是与 FC 层的连接的权重用 2-d tensor 表示W。

Answer 1

查看代码以tf.layers.dense获取如何在层中处理任何等级张量（具有最内深度维度）的示例。即：知道如何通过适当的广播tf.matmul将矩阵乘法应用于 a ：3-tensor

tf.matmul(A,W)其中Ais shape[b,t,d]和Wis shape[d,e]沿内部维度取内积：输出的形状为[b,t,e]。添加偏置向量 shape[e]将类似地正确广播。