cuda - cuda 视觉分析器详细信息-> 吞吐量

Question

在详细信息选项卡下的可视化分析器（cuda 工具包 4.1）中有一个称为吞吐量的指标。这仅对 memcpy HtoD DtoH 等有价值。有人知道它到底是什么吗？帮助搜索提供了许多不同的吞吐量（例如全局内存吞吐量等），我无法确定这个指标指的是哪里。

Answer 1

吞吐量是数据传输的速率，通常以 GB/s 为单位。对于 HtoD 和 DtoH，这是主机和设备之间通过连接两者的 PCI 总线进行的数据传输。您也可以拥有 DtoD，在这种情况下，您的吞吐量应该会显着提高，因为您不受 PCI 总线带宽的限制。这是一个重要的指标，因为在主机和设备之间传输数据是 CUDA 良好性能的最大瓶颈之一。您可以通过在主机上尽可能使用固定（页面锁定）内存来提高主机设备吞吐量。

您可以通过分析SDK 中包含nvvp的示例来对此进行测试。bandwidthTest