1

更新!

我当前的代码不检查越界内存访问。当我运行 cuda memcheck 时,它说即使对于只有 2 x 2 的矩阵,内存访问也很糟糕!我正在访问我不应该以某种方式访问​​的内存,这就是问题所在!

要检查越界内存访问,请运行cuda-memcheck ./(在此处插入可执行文件)

下面显示的是我的矩阵乘法本身的代码:

dim3 block(32,32);
dim3 grid( (n+31)/32, (n+31)/32 );
matrixMul<<<grid,block>>>(d_C, d_A, d_B, n, k);

kA 和 kB 是其中包含值的矩阵(它们都是 2 以使其更容易)。

对于我的方阵,m、n、k 都是相同的数字

kC 是存储答案的矩阵。

#ifndef _MATRIXMUL_KERNEL_H_
#define _MATRIXMUL_KERNEL_H_

#include <stdio.h>

__global__ void matrixMul(float *kC, float *kA, float *kB, int n, int k)
{

    int tx = blockIdx.x * 32 + threadIdx.x;
    int ty = blockIdx.y * 32 + threadIdx.y;
    float value = 0;

    for (int i=0;i<n;i++)
    {
        float elementA=kA[ty*n+i];
        float elementB=kB[i*k+tx];
        value += elementA*elementB;
    }

    kC[ty*n+tx] = value;
}

#endif // #ifndef _MATRIXMUL_KERNEL_H_
4

1 回答 1

2

根据您定义线程网格的方式,您应该向内核代码添加线程检查,如下所示:

#ifndef _MATRIXMUL_KERNEL_H_
#define _MATRIXMUL_KERNEL_H_

#include <stdio.h>

__global__ void matrixMul(float *kC, float *kA, float *kB, int n, int k)
{

    int tx = blockIdx.x * 32 + threadIdx.x;
    int ty = blockIdx.y * 32 + threadIdx.y;

    if ((ty < n) && (tx < n)) { // add this line
      float value = 0;

      for (int i=0;i<n;i++)
      {
        float elementA=kA[ty*n+i];
        float elementB=kB[i*k+tx];
        value += elementA*elementB;
      }

      kC[ty*n+tx] = value;
    }  //  add this line
}

#endif // #ifndef _MATRIXMUL_KERNEL_H_

否则有效数组数组之外的线程将破坏您的结果。事情适用于 32x32 的倍数,因为没有无效线程。在这种情况下,您将启动所需数量的线程。但在其他情况下,您会启动额外的线程。如果允许这些额外的线程计算无效的矩阵位置,则会破坏结果。

于 2013-05-19T03:16:09.833 回答