18

我有一个大小的张量，4 x 6其中 4 是批量大小，6 是序列长度。序列向量的每个元素都是某个索引（0 到 n）。我想创建一个4 x 6 x n张量，其中第 3 维的向量将是索引的一个热编码，这意味着我想将 1 放入指定的索引中，其余的值将为零。

例如，我有以下张量：

[[5, 3, 2, 11, 15, 15],
[1, 4, 6, 7, 3, 3],
[2, 4, 7, 8, 9, 10],
[11, 12, 15, 2, 5, 7]]

在这里，所有值都在 (0 到 n) 之间，其中 n = 15。所以，我想将张量转换为4 X 6 X 16第三维将代表一个热编码向量的张量。

如何使用 PyTorch 功能做到这一点？现在，我正在使用循环执行此操作，但我想避免循环！

4

3 回答 3

27

新答案 从 PyTorch 1.1 开始，one_hot在torch.nn.functional. 给定任何索引张量indices和最大索引n，您可以创建一个 one_hot 版本，如下所示：

n = 5
indices = torch.randint(0,n, size=(4,7))
one_hot = torch.nn.functional.one_hot(indices, n) # size=(4,7,n)

很老的答案

目前，根据我的经验，在 PyTorch 中切片和索引可能有点痛苦。我假设您不想将张量转换为 numpy 数组。目前我能想到的最优雅的方法是使用稀疏张量，然后转换为密集张量。这将按如下方式工作：

from torch.sparse import FloatTensor as STensor

batch_size = 4
seq_length = 6
feat_dim = 16

batch_idx = torch.LongTensor([i for i in range(batch_size) for s in range(seq_length)])
seq_idx = torch.LongTensor(list(range(seq_length))*batch_size)
feat_idx = torch.LongTensor([[5, 3, 2, 11, 15, 15], [1, 4, 6, 7, 3, 3],                            
                             [2, 4, 7, 8, 9, 10], [11, 12, 15, 2, 5, 7]]).view(24,)

my_stack = torch.stack([batch_idx, seq_idx, feat_idx]) # indices must be nDim * nEntries
my_final_array = STensor(my_stack, torch.ones(batch_size * seq_length), 
                         torch.Size([batch_size, seq_length, feat_dim])).to_dense()    

print(my_final_array)

注意：PyTorch 目前正在进行一些工作，这将在接下来的两三周内添加 numpy 风格的广播和其他功能以及其他功能。所以有可能，在不久的将来会有更好的解决方案。

希望这对您有所帮助。

于 2017-06-10T23:24:24.737 回答
12

我找到的最简单的方法。其中 x 是数字列表，而 class_count 是您拥有的课程数量。

def one_hot(x, class_count):
    return torch.eye(class_count)[x,:]

像这样使用它：

x = [0,2,5,4]
class_count = 8
one_hot(x,class_count)
tensor([[1., 0., 0., 0., 0., 0., 0., 0.],
        [0., 0., 1., 0., 0., 0., 0., 0.],
        [0., 0., 0., 0., 0., 1., 0., 0.],
        [0., 0., 0., 0., 1., 0., 0., 0.]])
于 2019-05-29T19:28:34.160 回答
3

这可以通过对任何对象PyTorch使用就地scatter_方法来完成。Tensor

labels = torch.LongTensor([[[2,1,0]], [[0,1,0]]]).permute(0,2,1) # Let this be your current batch
batch_size, k, _ = labels.size()
labels_one_hot = torch.FloatTensor(batch_size, k, num_classes).zero_()
labels_one_hot.scatter_(2, labels, 1)

对于num_classes=3（指数应该不同于[0,3)），这会给你

(0 ,.,.) = 
  0  0  1
  0  1  0
  1  0  0
(1 ,.,.) = 
  1  0  0
  0  1  0
  1  0  0
[torch.FloatTensor of size 2x3x3]

注意labels应该是torch.LongTensor.

PyTorch 文档参考：torch.Tensor.scatter_

于 2017-11-21T06:06:19.047 回答