我需要构建一个 4 维 PyTorch Tensor，其中一个维度来自将恒定稀疏矩阵与密集向量相乘。密集向量和生成的 4DTensor需要跟踪梯度。由于 PyTorch 仅支持 sparse matrices，我无法将整个事情表达为Tensor-Tensor乘法，我认为我必须在循环中进行构造的矩阵乘法部分。在那种情况下，我至少想预先分配结果 4DTensor并让稀疏mm填充循环中的一维。
在这种情况下，我如何跟踪生成的 4DTensor的渐变要求？创建后可以手动将其附加到渐变图中吗？
我目前的方法效率极低，基本上可以在列表中一次构建一个维度cat。