cuda API 暴露了有状态库的特性:两个连续的调用相互关联。简而言之,上下文就是它的状态。
运行时 API是驱动程序 API的包装器/帮助器。您可以在驱动程序 API 中看到上下文是显式可用的,并且为了方便起见,您可以拥有一个上下文堆栈。驱动程序和运行时 API 之间共享一个特定的上下文(请参阅主要上下文)。
上下文包含所有用于控制和使用设备的管理数据。例如,它保存分配的内存列表、包含设备代码的已加载模块、零拷贝的 CPU 和 GPU 内存之间的映射等。
最后,请注意,这篇文章更多地来自经验而不是文档证明。