cuda - 我们可以将“普通”GPU 内存复制到“统一”内存吗？

Question

我们有两个 GPU 内存，一个分配cuMalloc为普通设备内存，另一个分配cuMallocManaged为统一内存。可以在它们之间复制吗？如果我们使用驱动API，我应该使用什么方向？

float* normalMem, unifiedMem;
cuMalloc(&normalMem, 100);
cuMallocManaged(&unifiedMem, 100);
cuMemcpyD2D(unifiedMem, normalMem, 100); // ? D2D? or D2H? or else?

Answer 1

是的，你可以。例如看下面的代码。

• 它声明了一个普通指针，一个托管指针和一个主机指针，它们都是 100 float。
• 然后它初始化主机指针中的值，然后使用 cudaMemCpy 将值复制到普通指针。
• 现在将值复制到托管指针
• 托管指针在内核中用于显示已从两个缓冲区复制值。

我认为代码是不言自明的

__global__ 
void test(float* d_ptr){
    for(int i=0;i<100;i++)
        printf("%f \n",d_ptr[i]);
    printf("\n");
}

////////////////////////////////////////////////////////////////////////////////
// Program main
////////////////////////////////////////////////////////////////////////////////
int main(int argc, char **argv)
{

    size_t size = sizeof(float)*100;
    float* h_p =(float*) malloc(size);
    float* d_p, dm_p ; 
    cudaMalloc(&d_p,size);
    cudaMallocManaged(&dm_p,size);

    for(int i=0;i<100;i++)
        h_p[i]=2*(float)i;

    cudaMemcpy(d_p,h_p,size,cudaMemcpyHostToDevice);

    cudaDeviceSynchronize();

    cudaMemcpy(dm_p,d_p,size,cudaMemcpyDeviceToDevice);

    cudaDeviceSynchronize();

    test<<<1,1>>>(dm_p);

    cudaDeviceSynchronize();

    cudaFree(dm_p);
    cudaFree(d_p);
    free(h_p);
    return 0;
}

记得阅读统一内存访问规则。