1

在JCublas2.cublasSdot的源代码注释中，注释'result'参数可以是'主机或设备指针'。

 public static int cublasSdot(
    cublasHandle handle, 
    int n, 
    Pointer x, 
    int incx, 
    Pointer y, 
    int incy, 
    Pointer result)/** host or device pointer */
{
    return checkResult(cublasSdotNative(handle, n, x, incx, y, incy, result));
}

但是，我只能使用像 Pointer.to(fs) 这样的主机指针和 float[] fs ={0}。如果我使用像 'CUdeviceptr devicePtr = new CUdeviceptr(); 这样的设备指针 JCudaDriver.cuMemAlloc(devicePtr, 100 * Sizeof.FLOAT);'，程序崩溃，控制台消息如下：

#
# A fatal error has been detected by the Java Runtime Environment:
#
#  EXCEPTION_ACCESS_VIOLATION (0xc0000005) at pc=0x000007fed93af2a3, pid=9376, tid=0x0000000000003a7c
# .....

主机和设备之间的数据传输最小化可以节省时间。如何使用设备指针作为此方法的“结果”参数，以及其他 JCuda 方法的结果指针用 /** 主机或设备指针 **/ 注释？

4

1 回答 1

2

CUBLAS 可以将某些计算的结果（如点积）写入主机或设备内存。目标内存类型必须明确设置，使用cublasSetPointerMode.

示例中显示了如何使用它的JCublas2PointerModes示例。

它曾经将点积计算的结果写入主机内存（这也是默认设置，当没有显式设置指针模式时）：

// Set the pointer mode to HOST
cublasSetPointerMode(handle, CUBLAS_POINTER_MODE_HOST);

// Prepare the pointer for the result in HOST memory
float hostResult[] = { -1.0f };
Pointer hostResultPointer = Pointer.to(hostResult);

// Execute the 'dot' function
cublasSdot(handle, n, deviceData, 1, deviceData, 1, hostResultPointer);

然后更改指针模式并再次调用该函数，这次将结果写入设备内存：

cublasSetPointerMode(handle, CUBLAS_POINTER_MODE_DEVICE);

// Prepare the pointer for the result in DEVICE memory
Pointer deviceResultPointer = new Pointer();
cudaMalloc(deviceResultPointer, Sizeof.FLOAT);

// Execute the 'dot' function
cublasSdot(handle, n, deviceData, 1, deviceData, 1, deviceResultPointer);
于 2016-11-08T15:31:57.877 回答