1

我有一个为 1 个 gpu 编写的函数，它使用一组 args 运行 10 秒，而且我有一个很长的 args 列表要通过。我想同时使用我的 AMD gpus，所以我有一些启动 2 个线程的包装器代码，并在线程 0 上使用参数 gpu_idx 0 和在线程 1 上使用参数 gpu_idx 1 运行我的函数。

我有另一台机器的 cuda 版本，我只是跑来checkCudaErrors(cudaSetDevice((unsigned int)device_id));获得我想要的行为。

使用 openCL，我尝试执行以下操作：

void createDevice(int device_idx)
{
    cl_device_id *devices;
    ret = clGetPlatformIDs(1, &platform_id, &ret_num_platforms);
    HANDLE_CLERROR_G(ret);
    ret = clGetDeviceIDs( platform_id, CL_DEVICE_TYPE_ALL, 0, NULL, &ret_num_devices);
    HANDLE_CLERROR_G(ret);
    devices = (cl_device_id*)malloc(ret_num_devices*sizeof(cl_device_id));
    ret = clGetDeviceIDs( platform_id, CL_DEVICE_TYPE_ALL, ret_num_devices, devices, &ret_num_devices);
    HANDLE_CLERROR_G(ret);
    if (device_idx >= ret_num_devices)
    {
        fprintf(stderr, "Found %i devices but asked for device at index %i\n", ret_num_devices, device_idx);
        exit(1);
    }
    
    device_id = devices[device_idx];
    // usleep(((unsigned int)(500000*(1-device_idx)))); // without this line multithreaded 2 gpu execution does not work.

    context = clCreateContext( NULL, 1, &device_id, NULL, NULL, &ret);
    HANDLE_CLERROR_G(ret);
}

context 是我的 *c 文件中的一个静态变量，我稍后在创建内核时再次使用它。

当我仅使用 device_idx 0 或仅使用 device_idx 1 运行时，此代码有效，即使我在两个终端窗口中手动使用 device_idx 0 和 device_idx 1“同时”运行可执行文件。

但是，线程“过于”并发，这会阻止此代码工作。事实上，根据睡眠量（上面评论），我得到不同的行为（有时两个线程都在 gpu 0 上工作，有时两个线程都在 gpu 1 上工作，有时线程在两个 gpu 上都是平衡的）。如果我睡得太少，我会得到：CL_INVALID_CONTEXT如果我根本不睡觉，我会得到CL_INVALID_KERNEL_NAME。

就像我说的那样，仅在 gpu 0 或 gpu 1 上单独运行时，我不会遇到任何错误，只有在产生多个调用此代码的线程时（作为 *so 与来自 go 的 extern C 函数）同时在线程 0 中使用 device_idx 0和线程 1 中的 device_idx 1。

我该如何解决我的问题？我认为我有一个可以在 1 个 gpu 上运行的可执行文件，我为此指定了哪个 gpu，并且应该遵守该规范。

当两个设备都需要使用时，选择设备的正确方法是什么，一个与另一个完全分开？

4

1 回答 1

0

哎呀！我没有将 device_id 保存到静态变量中，而是开始从上面的代码返回并将其用作局部变量，一切都按预期工作，现在是线程安全的。

于 2021-02-25T15:03:27.213 回答