python - TensorFlow 时间线显示训练步骤之间的长时间停顿。这是什么原因？

Question

在 tensorflow 中运行 train 过程时，执行过程中有奇怪的停顿。这种停顿的原因是什么？我附上了前 20 次训练迭代的时间线输出

Answer 1

不看代码很难判断，但通常当 GPU 空闲时，这是因为数据正在从 RAM 复制到 VRAM 或从 RAM 复制到 VRAM。（设备到主机，反之亦然）。

在这里尝试TF Records是一个不错的指南。