cuda - 内联 PTX 汇编代码功能强大吗？

Question

我看到一些代码示例，人们在 C 代码中使用内联 PTX 汇编代码。CUDA toolkit中的文档提到PTX很强大，为什么会这样呢？如果我们在 C 代码中使用这样的代码，我们会得到什么好处？

Answer 1

内联 PTX 使您可以访问未通过 CUDA intrinsincs 公开的指令，并允许您应用编译器中缺少的或语言规范禁止的优化。有关使用内联 PTX 有利的工作示例，请参阅： cuda 上的 128 位整数？

使用内联 PTX 的 128 位加法只需要 4 条指令，因为它可以直接访问进位标志。作为 HLL，C/C++ 没有进位标志的表示，因为给定的硬件平台可能没有进位标志（例如 MIPS）、单个进位标志（例如 x86、sm_2x），甚至多个进位标志。与 128 位加减法的 4 指令 PTX 版本相比，这些操作可能在 C 中编码如下：

#define SUBCcc(a,b,cy,t0,t1,t2) \
  (t0=(b)+cy, t1=(a), cy=t0<cy, t2=t1<t0, cy=cy+t2, t1-t0)
#define SUBcc(a,b,cy,t0,t1) \
  (t0=(b), t1=(a), cy=t1<t0, t1-t0)
#define SUBC(a,b,cy,t0,t1) \
  (t0=(b)+cy, t1=(a), t1-t0)
#define ADDCcc(a,b,cy,t0,t1) \
  (t0=(b)+cy, t1=(a), cy=t0<cy, t0=t0+t1, t1=t0<t1, cy=cy+t1, t0=t0)
#define ADDcc(a,b,cy,t0,t1) \
  (t0=(b), t1=(a), t0=t0+t1, cy=t0<t1, t0=t0)
#define ADDC(a,b,cy,t0,t1) \
  (t0=(b)+cy, t1=(a), t0+t1)

unsigned int cy, t0, t1, t2;

res.x = ADDcc  (augend.x, addend.x, cy, t0, t1);
res.y = ADDCcc (augend.y, addend.y, cy, t0, t1);
res.z = ADDCcc (augend.z, addend.z, cy, t0, t1);
res.w = ADDC   (augend.w, addend.w, cy, t0, t1);

res.x = SUBcc  (minuend.x, subtrahend.x, cy, t0, t1);
res.y = SUBCcc (minuend.y, subtrahend.y, cy, t0, t1, t2);
res.z = SUBCcc (minuend.z, subtrahend.z, cy, t0, t1, t2);
res.w = SUBC   (minuend.w, subtrahend.w, cy, t0, t1);

上面的加法和减法可能会编译到大约是相应内联 PTX 版本使用的指令数量的三到四倍。