5

在 cuBLAS 中，cublasIsamin()给出单精度数组的 argmin。

这是完整的函数声明：cublasStatus_t cublasIsamin(cublasHandle_t handle, int n, const float *x, int incx, int *result)

cuBLAS 程序员指南提供了有关cublasIsamin()参数的信息： 在此处输入图像描述

如果我将主机（CPU）内存用于result，则cublasIsamin可以正常工作。这是一个例子：

void argmin_experiment_hostOutput(){
    float h_A[4] = {1, 2, 3, 4}; int N = 4; 
    float* d_A = 0;
    CHECK_CUDART(cudaMalloc((void**)&d_A, N * sizeof(d_A[0])));
    CHECK_CUBLAS(cublasSetVector(N, sizeof(h_A[0]), h_A, 1, d_A, 1));
    cublasHandle_t handle; CHECK_CUBLAS(cublasCreate(&handle));

    int result; //host memory
    CHECK_CUBLAS(cublasIsamin(handle, N, d_A, 1, &result));
    printf("argmin = %d, min = %f \n", result, h_A[result]);

    CHECK_CUBLAS(cublasDestroy(handle));
}

但是，如果我将设备(GPU) 内存用于result，则会cublasIsamin出现段错误。这是一个段错误的示例：

void argmin_experiment_deviceOutput(){
    float h_A[4] = {1, 2, 3, 4}; int N = 4;
    float* d_A = 0;
    CHECK_CUDART(cudaMalloc((void**)&d_A, N * sizeof(d_A[0])));
    CHECK_CUBLAS(cublasSetVector(N, sizeof(h_A[0]), h_A, 1, d_A, 1));
    cublasHandle_t handle; CHECK_CUBLAS(cublasCreate(&handle));

    int* d_result = 0; 
    CHECK_CUDART(cudaMalloc((void**)&d_result, 1 * sizeof(d_result[0]))); //just enough device memory for 1 result
    CHECK_CUDART(cudaMemset(d_result, 0, 1 * sizeof(d_result[0])));
    CHECK_CUBLAS(cublasIsamin(handle, N, d_A, 1, d_result)); //SEGFAULT!

    CHECK_CUBLAS(cublasDestroy(handle));
}

Nvidia 指南说 `cublasIsamin()` 可以输出到设备内存。我究竟做错了什么？

动机：我想在多个流中同时计算多个向量的 argmin()。输出到主机内存需要 CPU-GPU 同步，并且似乎会杀死多内核并发。所以，我想将 argmin 输出到设备内存。

4

1 回答 1

8

CUBLAS V2 API 确实支持将标量结果写入设备内存。但它默认不支持这个。根据文档的第 2.4 节“标量参数”，您需要使用cublasSetPointerMode()让 API 知道标量参数指针将驻留在设备内存中。请注意，这也使这些 1 级 BLAS 函数异步，因此您必须确保 GPU 在尝试访问结果指针之前已完成内核。

有关完整的工作示例，请参阅此答案。

于 2012-12-05T08:08:45.013 回答