c++ - 如何在 C++ 中将 Torch 模型定义为函数的输入

Question

我正在用 c++ 加载一个模型，该模型是用 python 训练的。现在我想编写一个函数，用随机输入测试模型，但我不能将模型定义为函数的参数。我试过 struct 但它不起作用。

void test(vector<struct comp*>& model){
    //pseudo input
    vector<torch::jit::IValue> inputs;
    inputs.push_back(torch::ones({1,3,224, 224}));

    at::Tensor output = model[0]->forward(inputs).toTensor();
    cout << output << endl;
}

int main(int argc, char *argv[]) {

    if (argc == 2){
        cout << argv[1] << endl;
        //model = load_model(argv[1]);
        torch::jit::script::Module module = torch::jit::load(argv[1]);

    }
    else {
        cerr << "no path of model is given" << endl;
    }
    // test
    vector<struct comp*> modul;
    modul.push_back(module);
    test(modul);
}

Answer 1

编辑：您需要将module变量放在范围内！

您的基本类型是torch::jit::script::Module这样定义它的名称：

using module_type = torch::jit::script::Module;

然后在您的代码中使用它，还使用const只读参数的引用：

void test(const vector<module_type>& model){
    //pseudo input
    vector<torch::jit::IValue> inputs;
    inputs.push_back(torch::ones({1,3,224, 224}));

    at::Tensor output = model[0]->forward(inputs).toTensor();
    cout << output << endl;
}

int main(int argc, char *argv[]) {

    if (argc == 2){
        cout << argv[1] << endl;            
    }
    else {
        cerr << "no path of model is given" << endl;
        return -1;
    }

    // test
    module_type module = torch::jit::load(argv[1]);;
    vector<module_type> modul;
    modul.push_back(module);
    test(modul);
}