1

在 TVM 库中，当使用 时，之后和_relay.build_module.build()_之后的输出结果是什么relay.buildtvm.build

两个参数作为输出 - 图形和库 - 稍后用于运行图形或创建图形运行时有什么区别和需要？

例如在这段代码中：

opt_level = 3
target = tvm.target.cuda()
with relay.build_config(opt_level=opt_level):
    graph, lib, params = relay.build_module.build(
        net, target, params=params)

什么是输出图，lib？我们可以只使用其中一个来生成图形运行时，还是我们总是必须同时使用它们，如下所示：

# create random input
ctx = tvm.gpu()
data = np.random.uniform(-1, 1, size=data_shape).astype("float32")
# create module
module = graph_runtime.create(graph, lib, ctx)
# set input and parameters
module.set_input("data", data)
module.set_input(**params)
# run
module.run()
# get output
out = module.get_output(0, tvm.nd.empty(out_shape)).asnumpy()
4

1 回答 1

0

要生成图形运行时，您始终需要graph和lib。

  • graph : json 格式的执行图
  • lib : 编译函数的 TVM 模块库，专门用于目标硬件上的此图。

换句话说，graph告诉编译器层是如何排列的；lib指定每一层实现的功能。

来源：https ://docs.tvm.ai/tutorials/relay_quick_start.html#sphx-glr-tutorials-relay-quick-start-py

于 2020-04-09T07:11:34.417 回答