6

我开始编写一些 CUDA 代码，我想为std::swap()内核中的两个变量做等效的事情；它们在寄存器文件中（没有溢出，不在某个缓冲区等）。假设我有以下设备代码：

__device__ foo(/* some args here */) {

    /* etc. */

    int x = /* value v1 */;
    int y = /* value v2 */;

    /* etc. */

    swap(x,y);

    /* etc. */
}

现在，我可以写

template <typename T> void swap ( T& a, T& b )
{
  T c(a); a=b; b=c;
}

但我想知道 - 这个功能没有内置的 CUDA 吗？

笔记：

  • 是的，我希望它适用于所有线程。
  • 别管我是否有足够的寄存器。假设我有它们。
4

2 回答 2

6

我考虑了以下测试程序

template <typename T> __device__ void inline swap_test_device1(T& a, T& b)
{
    T c(a); a=b; b=c;
}

template <typename T> __device__ void inline swap_test_device2(T a, T b)
{
    T c(a); a=b; b=c;
}

__global__ void swap_test_global(const int* __restrict__ input1, const int* __restrict__ input2, int* output1, int* output2) {

    int tx = threadIdx.x + blockIdx.x * blockDim.x;

    int x = input1[tx]*input1[tx];
    int y = input2[tx]*input2[tx];

    //swap_test_device2(x,y);
    swap_test_device1(x,y);

    output1[tx] = x;
    output2[tx] = y;

}

我已经拆开了它。使用swap_test_device1和时的结果swap_test_device2是一样的。常见的反汇编代码如下

MOV R1, c[0x1][0x100];
S2R R0, SR_CTAID.X;
S2R R2, SR_TID.X;
MOV32I R9, 0x4;  
IMAD R3, R0, c[0x0][0x8], R2;
IMAD R6.CC, R3, R9, c[0x0][0x28];
IMAD.HI.X R7, R3, R9, c[0x0][0x2c];
IMAD R10.CC, R3, R9, c[0x0][0x20];
LD.E R2, [R6];                         loads input1[tx] and stores it in R2
IMAD.HI.X R11, R3, R9, c[0x0][0x24];
IMAD R4.CC, R3, R9, c[0x0][0x30];
LD.E R0, [R10];                        loads input2[tx] and stores it in R0
IMAD.HI.X R5, R3, R9, c[0x0][0x34];
IMAD R8.CC, R3, R9, c[0x0][0x38];
IMAD.HI.X R9, R3, R9, c[0x0][0x3c];
IMUL R2, R2, R2;                       R2 = R2 * R2
ST.E [R4], R2;                         stores input1[tx]*input1[tx] in global memory
IMUL R0, R0, R0;                       R0 = R0 * R0
ST.E [R8], R0;                         stores input2[tx]*input2[tx] in global memory
EXIT ;

反汇编代码中似乎没有明确的交换。换句话说，对于这个简单的示例，编译器能够直接优化代码x并y在适当的全局内存位置写入。

编辑

我现在考虑了以下更复杂的测试用例

__global__ void swap_test_global(const char* __restrict__ input1, const char* __restrict__ input2, char* output1, char* output2) {

    int tx = threadIdx.x + blockIdx.x * blockDim.x;

    char x = input1[tx];
    char y = input2[tx];

    //swap_test_device2(x,y);
    swap_test_device1(x,y);

    output1[tx] = (x >> 3) & y;
    output2[tx] = (y >> 5) & x;

 }

具有与上述相同的__device__功能。反汇编代码是

MOV R1, c[0x1][0x100];              
S2R R0, SR_CTAID.X;                 
S2R R2, SR_TID.X;           
IMAD R0, R0, c[0x0][0x8], R2;       R0 = threadIdx.x + blockIdx.x * blockDim.x
BFE R7, R0, 0x11f;
IADD R8.CC, R0, c[0x0][0x28];
IADD.X R9, R7, c[0x0][0x2c];
IADD R10.CC, R0, c[0x0][0x20];
LD.E.S8 R4, [R8];                   R4 = x = input1[tx]
IADD.X R11, R7, c[0x0][0x24];
IADD R2.CC, R0, c[0x0][0x30];
LD.E.S8 R5, [R10];                  R5 = y = input2[tx]
IADD.X R3, R7, c[0x0][0x34];
IADD R12.CC, R0, c[0x0][0x38];
IADD.X R13, R7, c[0x0][0x3c];
SHR.U32 R0, R4, 0x3;                R0 = x >> 3
SHR.U32 R6, R5, 0x5;                R6 = y >> 5
LOP.AND R5, R0, R5;                 R5 = (x >> 3) & y
LOP.AND R0, R6, R4;                 R0 = (y >> 5) & x
ST.E.U8 [R2], R5;                   global memory store
ST.E.U8 [R12], R0;                  global memory store
EXIT ;

可以看出，仍然没有明显的寄存器交换。

于 2013-10-24T10:22:17.243 回答
3

据我所知，这完全无关紧要。

x并且y不是“真正的”对象：它们只存在于 C++ 标准描述的抽象机器中。特别是，它们不对应于寄存器。

您可能会想象编译器在创建程序时会将它们分配给寄存器，但实际上并非如此。存储在寄存器中的东西可能会被打乱、复制、改变成其他东西，甚至完全消除。

特别是，无条件地交换存储在寄存器中的两个变量通常根本不会生成任何代码——它的唯一作用是编译器调整其内部表，说明哪些对象在那个时间点存储在哪些寄存器中。

（即使是有条件的交换，你通常还是让编译器做它的事情会更好）

于 2016-08-05T07:48:51.790 回答