cuda - 对 GPU 内存带宽的概念理解

Question

我对 GPU 的内存带宽的概念有点困惑。

根据TESLA M 2090 GPU 规格，峰值带宽为 177.6 GB/s。

所以当人们提到带宽时，它是指

• 单向流量的速度，例如每秒可以从设备读取的字节数

• 双向流量的速度，例如每秒可以读取和写入设备内存的字节数。

无论我在哪里读到这个术语，我都没有看到这个澄清

Answer 1

带宽是在给定时间段内可以读取或写入的数据量。

相同的总线用于读取和写入。在给定的时钟周期内，总线可用于读取或写入。

Answer 2

总线上只有一组导线，因此不能同时写入或读取数据。理论上带宽是一样的，总读+写==总读==总写。

但实际上，如果您将大量连续数据块写入设备，则传输效率更高，这是最常见的用法，也是系统优化的目标。

编辑。显卡的内存带宽（即显卡上各个组件之间的内存路径）远高于进出计算机的带宽。

它也更复杂，有不同类型的内存以不同的方式连接到不同的处理器，制造商会选择使它听起来最高的数字 - 这个数字真的没有意义，除了比较来自同一卡的不同型号的非常相似的卡GPU 家族。