1

首先我应该说我对 C++ 编程很陌生（更不用说 CUDA），尽管这是我大约 184 年前第一次学习的东西。我会说我对内存分配和数据类型大小有点脱节，尽管我正在学习。无论如何，这里是：

我有一个计算能力为 3.0 的 GPU（它是一个 Geforce 660 GTX，带 2GB DRAM）。

通过 ./deviceQuery 在 CUDA 示例中找到（以及我在网上找到的其他图表），列出了我的最大网格大小：

Max dimension size of a grid size    (x,y,z): (2147483647, 65535, 65535)

在 2,147,483,647 (2^31-1) 处，x 维度很大而且有点好……然而，当我运行我的代码时，在 x 维度上超过 65535，事情变得……很奇怪。

我使用了 Udacity 课程中的一个示例，并对其进行了修改以测试极端情况。我保持内核代码相当简单来证明这一点：

__global__ void referr(long int *d_out, long int *d_in){
  long int idx = blockIdx.x;
  d_out[idx] = idx;
}

请注意，下面ARRAY_SIZE是网格的大小，也是要对其进行操作的整数数组的大小。我将块的大小保留为 1x1x1。只是为了理解这些限制，我知道用只有 1 个线程的块进行这么多操作是没有意义的，但我想了解网格大小限制是怎么回事。

int main(int argc, char ** argv) {
  const long int ARRAY_SIZE = 522744;
  const long int ARRAY_BYTES = ARRAY_SIZE * sizeof(long int);

  // generate the input array on the host
  long int h_in[ARRAY_SIZE];
  for (long int i = 0; i < ARRAY_SIZE; i++) {
    h_in[i] = i;
  }
  long int h_out[ARRAY_SIZE];

  // declare GPU memory pointers
  long int *d_in;
  long int *d_out;

  // allocate GPU memory
  cudaMalloc((void**) &d_in, ARRAY_BYTES);
  cudaMalloc((void**) &d_out, ARRAY_BYTES);

  // transfer the array to the GPU
  cudaMemcpy(d_in, h_in, ARRAY_BYTES, cudaMemcpyHostToDevice);

  // launch the kernel with ARRAY_SIZE blocks in the x dimension, with 1 thread each.
  referr<<<ARRAY_SIZE, 1>>>(d_out, d_in);

  // copy back the result array to the CPU
  cudaMemcpy(h_out, d_out, ARRAY_BYTES, cudaMemcpyDeviceToHost);

  // print out the resulting array
  for (long int i =0; i < ARRAY_SIZE; i++) {
    printf("%li", h_out[i]);
    printf(((i % 4) != 3) ? "\t" : "\n");
  }

  cudaFree(d_in);
  cudaFree(d_out);

  return 0;
}

这ARRAY_SIZE在 MOST 为 65535 时按预期工作。下面输出的最后几行

65516   65517   65518   65519
65520   65521   65522   65523
65524   65525   65526   65527
65528   65529   65530   65531
65532   65533   65534

如果我ARRAY_SIZE超出此范围，输出将变得非常不可预测，最终如果数字太高，我会收到一条Segmentation fault (core dumped)消息……无论这意味着什么。IE。ARRAY_SIZE65536 ：

65520   65521   65522   65523
65524   65525   65526   65527
65528   65529   65530   65531
65532   65533   65534   131071

为什么现在说最后一个的 blockIdx.x 是 131071？即 65535+65535+1。诡异的。

更奇怪的是，当我将其设置ARRAY_SIZE为 65537 (65535+2) 时，我在输出的最后几行得到了一些非常奇怪的结果。

65520   65521   65522   65523
65524   65525   65526   65527
65528   65529   65530   65531
65532   65533   65534   131071
131072  131073  131074  131075
131076  131077  131078  131079
131080  131081  131082  131083
131084  131085  131086  131087
131088  131089  131090  131091
131092  131093  131094  131095
131096  131097  131098  131099
131100  131101  131102  131103
131104  131105  131106  131107
131108  131109  131110  131111
131112  131113  131114  131115
131116  131117  131118  131119
131120  131121  131122  131123
131124  131125  131126  131127
131128  131129  131130  131131
131132  131133  131134  131135
131136  131137  131138  131139
131140  131141  131142  131143
131144  131145  131146  131147
131148  131149  131150  131151
131152  131153  131154  131155
131156  131157  131158  131159
131160  131161  131162  131163
131164  131165  131166  131167
131168  131169  131170  131171
131172  131173  131174  131175
131176  131177  131178  131179
131180  131181  131182  131183
131184  131185  131186  131187
131188  131189  131190  131191
131192  131193  131194  131195
131196  131197  131198  131199
131200

65535 不是旧 GPU 的限制吗？当我推过 x 网格维度的 65535 障碍时，为什么我的 GPU “搞砸了”？或者这是设计使然？世界上到底发生了什么？

哇，对不起，很长的问题。

任何帮助理解这一点将不胜感激！谢谢！

4

1 回答 1

6

您应该使用正确的 CUDA 错误检查。并且您应该通过指定-arch=sm_30何时使用 nvcc 编译来编译计算 3.0 架构。

于 2013-10-03T13:54:19.453 回答