0

我正在使用此处发布的 tensorflow rnn 翻译模型:
翻译模型

我想根据自己的想法对这段代码的一部分进行修改。
我想做的第一件事是target_weights在每一层中查看。
我所知道的是,首先一个数组target_weights包含用于填充的零和句子中每个单词的 1。
初始化后,它被馈送到 session.run 方法,它肯定会改变。
现在我想知道是否有人知道在学习过程中我应该如何看到这个数组的变化。
或者别的什么,我怎样才能看到每一层的权重并检查每一层对应的值。

提前致谢

4

1 回答 1

1

您正在寻找的可能是TensorBoard,它使您能够可视化网络的任意值/统计信息。

张量板

您所要做的就是添加summarizers代码,例如通过

tf.scalar_summary("norm of weights going", norm_of_weights)

稍后创建摘要编写器

merged = tf.merge_all_summaries()
writer = tf.train.SummaryWriter("logs_directory/", sess.graph_def)

这将创建您的日志,您可以通过 tensorboard 对其进行分析。您定义摘要的方式、您记录的内容等取决于您,并且完全取决于问题。您想单独跟踪每个重量吗?如果是这样 - 为每一个添加标量摘要。你想要一个短暂的进化?关注这些规范。您还可以通过等等来监控直方图(例如激活分布)tf.histogram_summary

于 2016-05-31T20:29:11.190 回答