matrix - 使用 cuda 将数百个矩阵相乘

Question

我正在编写一个程序，该程序需要使用 CUDA 并行乘以数百个矩阵。有人可以解释如何执行此操作。

我已经看到开普勒架构能够实现动态并行。有人使用过这种架构吗？如果是的话，是哪个 Nvidia 显卡。

Answer 1

使用 CUDA 获得快速执行矩阵乘法的最简单方法是使用GFOR 循环通过ArrayFire CUDA 库。这是一些可以满足您要求的代码：

int n = 8, int m = 8;   // dimensions
int t = 10;             // number of different matricies
array A = randu(m,n,t); // many matricies
array B = randu(m,n);   // one matrix
array C = zeros(m,n,t); // destination

// multiply C=A*B for all A, at the same time
gfor (array i, A.dims(2)) {
    C(span,span,i) = matmul(A(span,span,i), B);
}

print( A );
print( B );
print( C );

ArrayFire 自动高效地平铺计算以在 GPU 上执行。所有这些都是在幕后为您优化的。我发现它比尝试自己手写要快。