我可能遗漏了一些非常基本的东西,但我在文档或网上找不到任何解释
我正在尝试将 GPU 复制到at::Tensor
CPU 上的固定张量,但是一旦我复制它,CPU 张量就不再固定了。我假设它只是创建 GPU 张量的新副本并分配它,但如果是这种情况,你如何复制到预先分配的固定内存?
我的测试代码:
at::Tensor gpu = at::randn({1025,1025}, device(at::kCUDA));
at::Tensor pinned = at::empty(gpu.sizes(), device(at::kCPU).pinned_memory(true));
std::cout << "Is Pinned: " << std::boolalpha << pinned.is_pinned() << std::endl;
pinned = gpu.to(at::kCPU);
std::cout << "Is Pinned: " << std::boolalpha << pinned.is_pinned() << std::endl;
输出是
Is Pinned: true
Is Pinned: false
这也发生在torch::
而不是at::
使用从源代码编译的 LibTorch 1.5.0 在 Ubuntu 16.04 上测试