2

我们已经训练了我们的模型并使用提供的 Python 脚本成功地测试了它们。但是,我们现在想在我们的网站上部署它并为第二轮测试运行一个 Web 服务。

是否有一个 C++ 包装器,以便我们可以像使用 Python 脚本一样运行/执行我们的模型?

4

2 回答 2

6

我认为最简单的方法是使用cppflow。它是 TensorFlow C API 的 C++ 包装器。它很简单但非常易于使用,您不需要安装它,也不需要使用 Bazel 编译。你只需要下载 C API 并像这样使用它:

Model model("graph.pb");
model.restore("path/to/checkpoint");

auto input = new Tensor(model, "input");
auto output = new Tensor(model, "output");

model.run(input, output);
于 2019-05-18T17:53:09.607 回答
2

您可以在此处找到在 C++ 上运行对象检测的代码。您需要一个导出的图形(.pb 格式),您可以使用TF 对象检测 API获取该图形。

编译过去很棘手(除非您将项目放在 tensorflow 目录中并使用 bazel 编译所有内容,但您可能不想这样做)。我认为现在应该更容易,但我不知道如何;或者您可以按照这些说明自行编译 tensorflow 并在 cmake 项目中使用它。您在此处有另一个用 c++ 运行图形的示例。

于 2017-10-12T08:56:11.587 回答