2

我在使用基于 uvloop 的服务器 ( Sanic ) 运行 Tensorflow 模型时遇到了一些问题,即使它与 Flask 配合得很好。我认为这与 Sanic 如何产生多个进程有关?我这样说是因为如果我用 1 个工人(即进程)运行 Sanic,那么模型就可以很好地服务。尽管我确实发现我使用 Flask+gunicorn 部署了相同的模型,使用多个工作人员和每个工作人员的线程,这让我感到困惑。

我得到的具体错误是:

2019-10-22 18:05:39.062833: E tensorflow/core/grappler/clusters/utils.cc:87] Failed to get device properties, error code: 3
2019-10-22 18:05:39.731232: F tensorflow/stream_executor/cuda/cuda_driver.cc:175] Check failed: err == cudaSuccess || err == cudaErrorInvalidValue Unexpected CUDA error: initialization error

我觉得它至少与https://github.com/pytorch/pytorch/issues/2517部分相关

在调用返回预测无济于事的代码之前,我尝试过使用sess.as_default()and 。graph.as_default()任何帮助都将不胜感激,即使只是一些想法可以尝试,因为我已经碰壁并且对如何继续感到迷茫。

4

0 回答 0