3

我将不胜感激涉及 CUDA 设备内存指针的一些帮助。基本上我想将我的 CUDA 内核代码拆分为多个文件以提高可读性，并且因为它是一个大型程序。所以我想要做的是能够将相同的设备内存指针传递给多个 CUDA 内核，而不是同时传递。以下是我需要的粗略示例

//random.h
class random{
public:
    int* dev_pointer_numbers;
};

所以对象只需要存储指向设备内存的指针

//random_kernel.cu
__global__ void doSomething(int *values){
//do some processing}

extern "C" init_memory(int *devPtr,int *host_memory,int arraysize)
{
    cudaMalloc(&devPtr,arraysize*sizeof(int));
    cudaMemcpy(devPtr,host_memory,arraysize*sizeof(int),cudaMemcpyHostToDevice);
}

extern "C" runKernel(int *devPtr){
    doSomething<<<1,1>>>(devPtr);
}

和主文件：

//main.cpp
//ignoring all the details etc
random rnd;
void CUDA(int *hostArray)
{
    init_memory(rnd.dev_pointer_numbers,hostArray,10);
    runKernel(rnd.dev_pointer_numbers);
}

我知道当我使用对象指针运行内核代码时，它没有映射到设备内存中，所以这就是内核代码失败的原因。我想知道的是如何在我的主文件中存储指向设备内存中特定块的指针，以便它可以在其他 cuda 内核文件中重用？

4

1 回答 1

7

你正在失去你的指针！

查看您的 init_memory 函数：

init_memory(int *devPtr,int *host_memory,int arraysize)
{
  cudaMalloc(&devPtr,arraysize*sizeof(int));
  cudaMemcpy(devPtr,host_memory,arraysize*sizeof(int),cudaMemcpyHostToDevice);
}

所以你传入一个指针，此时你有一个名为 devPtr 的本地副本。然后使用指针的本地副本的地址调用 cudaMalloc() 。当函数返回时，本地副本（在堆栈上）被破坏，因此您丢失了指针。

而是试试这个：

init_memory(int **devPtr,int *host_memory,int arraysize)
{
  cudaMalloc(devPtr,arraysize*sizeof(int));
  cudaMemcpy(*devPtr,host_memory,arraysize*sizeof(int),cudaMemcpyHostToDevice);
}

...

init_memory(&rnd.dev_pointer_numbers,hostArray,10);

作为旁注，请考虑删除extern "C"，因为您是从 C++ (main.cpp) 调用它，所以没有意义，它只会使您的代码混乱。

于 2012-09-11T12:39:45.587 回答