问题标签 [vram]

我在我的应用程序中遇到了 VRAM 内存泄漏。THREE.Geometry该应用程序经常添加和删除以创建体积动画。如果THREE.Geometry我使用了它自己填充的顶点而不是a THREE.SphereBufferGeometry，则不会发生内存泄漏。

我创建了一个最小的应用程序来证明这种内存泄漏是真实的。内存泄漏非常缓慢地增加 VRAM 内存，但最终会填满。我认为池无济于事，因为它是 VRAM 而不是托管内存。我确实使用处置。

如果您可以使此示例正常工作并且没有内存泄漏，那可能会解决我的问题：

https://jsfiddle.net/4a7ksryd/16/

编辑：我在这里添加应用程序的代码：

例如，在我的机器上，我使用 rtx 2060 和 6144mb 的 vram 运行。当查询显卡上的 DXGI_ADAPTER_DESC 时，它在 DedicatedVideoMemory 上读取了3221225472的值。

3221225472 / 1024 / 1024 = 3072mb，或者正好是我预期的一半。

这是为什么？

我目前在这段代码中使用 Cudafy API 来获取 Nvidia 显卡的 GPU VRam 大小。

不幸的是，这只适用于 Nvidia GPU。

如何获得 AMD / Intel 集成 GPU 的 VRAM 大小？我也尝试过使用它，但它最多只能返回 4GB。

我正在尝试估算完全连接的模型所需的 VRAM，而无需在 pytorch 中构建/训练模型。

我非常接近这个公式：

这个示例模型有 384048000 个参数，但我已经在具有不同参数大小的不同模型上进行了测试。

结果相当准确。但是，估计只考虑了 pytorch 会话 VRAM，而不是驱动程序/cuda 缓冲区 VRAM 量。这是估计（使用公式）与经验结果（在构建/训练模型后使用 nvidia-smi）

关于如何估计 nvidia-smi 输出中显示的额外 VRAM 的任何想法？

考虑在 ram 中创建内存缓冲区/纹理/资产然后将该内存调用到 VRAM 的情况。这种记忆转移将如何发生？

CPU 是否需要时间将这些数据移动到存储所有 iGPU 内存的专用 RAM 位置？还是 CPU 创建一个指向缓冲区/纹理/资产的指针并将其存储在查找表中？还是两者的混合？

我制作了一个游戏（使用 Unity），它由两个开源机器学习模型 VQGAN-CLIP 和 GPT-NEO（通过 pyinstaller 转换为 exe）提供支持，同时运行。

VQGAN-CLIP 在后台生成图像，而 GPT-NEO 需要定期生成文本。当 GPT-NEO 在 VQGAN-CLIP 生成某些东西时被调用时，MSI Afterburner 显示 VRAM 使用量超过最大值，或者已经达到最大值，并且我在 VRAM 交换时整个系统冻结了大约 1 秒（我确认它仅当两者同时运行时才会发生，而不是仅在其中一个运行时发生）。我正在使用具有 8GB VRAM 的 RTX 2060S。

此外，我有 64 GB 内存，而且使用量远不及那里，所以它只交换到 RAM 而不是 SSD。

在 VQGAN-CLIP 完成生成图像之前阻止 GPT-NEO 是不可行的，因为生成 1 张图像可能需要 30-60 秒，这在轮次之间等待的时间太长。

我的问题是：这绝对是不可避免的，还是有一种解决方法可以在不冻结整个系统的情况下交换 VRAM，或者更好的是游戏本身？