8

最近我一直在使用推力。我注意到，为了使用推力，必须始终将数据从 cpu 内存复制到 gpu 内存。
让我们看看下面的例子： 

int foo(int *foo)
{
     host_vector<int> m(foo, foo+ 100000);
     device_vector<int> s = m;
}

我不太确定host_vector构造函数是如何工作的，但似乎我正在复制初始数据，来自*foo，两次 - 一次是在初始化时复制到 host_vector，另一次device_vector是在初始化时。有没有更好的方法从 cpu 复制到 gpu 而无需制作中间数据副本？我知道我可以device_ptr用作包装器，但这仍然不能解决我的问题。
谢谢！

4

1 回答 1

16

的构造函数之一device_vector采用由两个迭代器指定的一系列元素。理解示例中的原始指针足够聪明，因此您可以device_vector直接构造 a 并避免临时host_vector：

void my_function_taking_host_ptr(int *raw_ptr, size_t n)
{
  // device_vector assumes raw_ptrs point to system memory
  thrust::device_vector<int> vec(raw_ptr, raw_ptr + n);

  ...
}

如果您的原始指针指向 CUDA 内存，请引入device_ptr：

void my_function_taking_cuda_ptr(int *raw_ptr, size_t n)
{
  // wrap raw_ptr before passing to device_vector
  thrust::device_ptr<int> d_ptr(raw_ptr);

  thrust::device_vector<int> vec(d_ptr, d_ptr + n);

  ...
}

使用 adevice_ptr不会分配任何存储空间；它只是对类型系统中指针的位置进行编码。

于 2012-02-21T07:10:11.013 回答