我有一个大小为 N*D 的 2D 张量 T,表示序列长度为 S 的 M 个文档的打包词嵌入(按顺序)。(即 sum(S)=N)
是否有最佳实践将其转换为大小为 M*Max(S)*D 且填充值为 V 的 3D 张量?(你可以假设 V=0.0)
我看到的两种方法
使用 torch.split 分割 2D 张量,然后使用 torch.nn.utils.rnn.pad_sequence 生成 T'
制作一个大小为 M*Max(S)*D 的张量 T' 并(使用循环)将每个维度填充为 T'[i,0:s(i),]=T[c(i):c(i +1)] 其中 c(i) 是 S 的部分和
我尝试查看 pad_packed_sequence 的代码,但它调用了另一种我找不到代码的方法。
原始张量采用这种形式用于 GraphNN,因此如果有需要这样做的方法,则更改排序并非不可能。