我无法将自动混合精度与 TensorFlow 2.3.2(在 Windows 10 上)一起使用。
我的系统环境中有一个TF_ENABLE_AUTO_MIXED_PRECISION
变量设置为 1。我已经使用显式 Python 代码启用了内存增长。
我只是在做模型推理,而不是训练。我没有打电话model.compile
。
我在 TensorFlow 日志中没有看到任何关于检测或启用自动混合精度的信息,并且内存要求与没有设置环境变量时一样高。7GB 很多,如果 TF 使用 float16 而不是 float32,我希望会看到不同。
除了设置环境变量之外,我还应该做些什么吗?我就是不知道出了什么问题。我只想让 TensorFlow 自动、透明地重写我的图表,并在内部使用 float16 进行计算。