问题标签 [cuda-streams]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
57 浏览

cuda - 如何确保两个流中的两个内核同时发送到 GPU 运行?

我是 CUDA 的初学者。我正在使用 NVIDIA Geforce GTX 1070 和 CUDA 工具包 11.3 和 ubuntu 18.04。如下代码所示,我使用两个 CPU 线程将两个内核以两个流的形式发送到一个 GPU。我希望这两个内核同时发送到 GPU。有没有办法做到这一点?

或者至少比我做的更好。

先感谢您。

我的代码:

0 投票
1 回答
107 浏览

cuda - 如何暂停 CUDA 流然后恢复它?

假设我们有两个 CUDA 流同时在 GPU 上运行两个 CUDA 内核。如何暂停使用我放入主机代码的指令运行的 CUDA 内核并使用主机代码中的指令恢复它?我不知道在这种情况下如何编写示例代码,例如,继续这个问题。

确切地说,我的问题是 CUDA 中是否有一条指令可以暂停在 CUDA 流中运行的 CUDA 内核然后恢复它?