13

我在 TensorFlow 方面有相当多的经验,我即将开始一个项目,最终将在 C# 生产环境中使用经过 TensorFlow 训练的模型。从本质上讲,我将拥有将进入 C# 环境的实时数据,并且我最终需要根据我在 TensorFlow 中的模型输出来输出决策/采取某些行动。这基本上只是对现有基础设施的限制。

我可以想到几种可能不好的方法来实现这一点,例如将数据写入磁盘,然后调用应用程序的 Python 部分,最后读取 Python 应用程序输出的结果并根据它采取一些行动。然而,这很慢。

是否有更快的方法来完成 C# 和基于 Python 的 Tensorflow 之间的相同集成关系。我看到似乎有一些方法可以用 C++ 和 TensorFlow 做到这一点,但是 C# 呢?

4

1 回答 1

10

这是TensorFlow Serving的主要用例,它允许您创建一个 C++ 进程,该进程可以在经过训练的 TensorFlow 模型上运行推理,并通过gRPC提供推理请求。您可以使用gRPC 支持的任何语言编写客户端代码。查看 MNIST 教程:C++ 服务器Python 客户端组件。

于 2016-06-22T06:37:52.257 回答