8

我是 pytorch 的新手，正在尝试实现前馈神经网络来对 mnist 数据集进行分类。我在尝试使用交叉验证时遇到了一些问题。我的数据具有以下形状： x_train: torch.Size([45000, 784])和 y_train:torch.Size([45000])

我尝试使用 sklearn 中的 KFold。

kfold =KFold(n_splits=10)

这是我的训练方法的第一部分，我将数据分成折叠：

for  train_index, test_index in kfold.split(x_train, y_train): 
        x_train_fold = x_train[train_index]
        x_test_fold = x_test[test_index]
        y_train_fold = y_train[train_index]
        y_test_fold = y_test[test_index]
        print(x_train_fold.shape)
        for epoch in range(epochs):
         ...

变量的索引y_train_fold是正确的，它只是: [ 0 1 2 ... 4497 4498 4499]，但不是 for x_train_fold，而是[ 4500 4501 4502 ... 44997 44998 44999]. 测试折叠也是如此。

对于第一次迭代，我希望变量x_train_fold是前 4500 张图片，换句话说，有 shape torch.Size([4500, 784])，但它有 shapetorch.Size([40500, 784])

关于如何做到这一点的任何提示？

4

4 回答 4

9

我觉得你很困惑！

暂时忽略第二个维度，当你有 45000 个点，并且使用 10 折交叉验证时，每个折的大小是多少？45000/10 即 4500。

这意味着您的每个折叠将包含 4500 个数据点，其中一个折叠将用于测试，其余用于训练，即

测试：一折 => 4500 个数据点 => 大小：4500
训练：剩余的折数 => 45000-4500 个数据点 => 大小：45000-4500=40500

因此，对于第一次迭代，前 4500 个数据点（对应于索引）将用于测试，其余用于训练。（检查下图）

鉴于您的数据是x_train: torch.Size([45000, 784])and y_train: torch.Size([45000])，您的代码应该是这样的：

for train_index, test_index in kfold.split(x_train, y_train):  
    print(train_index, test_index)

    x_train_fold = x_train[train_index] 
    y_train_fold = y_train[train_index] 
    x_test_fold = x_train[test_index] 
    y_test_fold = y_train[test_index] 

    print(x_train_fold.shape, y_train_fold.shape) 
    print(x_test_fold.shape, y_test_fold.shape) 
    break 

[ 4500  4501  4502 ... 44997 44998 44999] [   0    1    2 ... 4497 4498 4499]
torch.Size([40500, 784]) torch.Size([40500])
torch.Size([4500, 784]) torch.Size([4500])

所以，当你说

我希望变量x_train_fold成为前 4500 张图片...形状 torch.Size([4500, 784])。

你错了。这个大小对应x_test_fold。在第一次迭代中，基于 10 折，x_train_fold将有 40500 个点，因此它的大小应该是torch.Size([40500, 784]).

K-fold 验证图像

于 2019-11-23T08:32:48.023 回答
8

想我现在就有了，但我觉得代码有点乱，有 3 个嵌套循环。有没有更简单的方法或者这种方法可以吗？

这是我的交叉验证训练代码：

def train(network, epochs, save_Model = False):
    total_acc = 0
    for fold, (train_index, test_index) in enumerate(kfold.split(x_train, y_train)):
        ### Dividing data into folds
        x_train_fold = x_train[train_index]
        x_test_fold = x_train[test_index]
        y_train_fold = y_train[train_index]
        y_test_fold = y_train[test_index]

        train = torch.utils.data.TensorDataset(x_train_fold, y_train_fold)
        test = torch.utils.data.TensorDataset(x_test_fold, y_test_fold)
        train_loader = torch.utils.data.DataLoader(train, batch_size = batch_size, shuffle = False)
        test_loader = torch.utils.data.DataLoader(test, batch_size = batch_size, shuffle = False)

        for epoch in range(epochs):
            print('\nEpoch {} / {} \nFold number {} / {}'.format(epoch + 1, epochs, fold + 1 , kfold.get_n_splits()))
            correct = 0
            network.train()
            for batch_index, (x_batch, y_batch) in enumerate(train_loader):
                optimizer.zero_grad()
                out = network(x_batch)
                loss = loss_f(out, y_batch)
                loss.backward()
                optimizer.step()
                pred = torch.max(out.data, dim=1)[1]
                correct += (pred == y_batch).sum()
                if (batch_index + 1) % 32 == 0:
                    print('[{}/{} ({:.0f}%)]\tLoss: {:.6f}\t Accuracy:{:.3f}%'.format(
                        (batch_index + 1)*len(x_batch), len(train_loader.dataset),
                        100.*batch_index / len(train_loader), loss.data, float(correct*100) / float(batch_size*(batch_index+1))))
        total_acc += float(correct*100) / float(batch_size*(batch_index+1))
    total_acc = (total_acc / kfold.get_n_splits())
    print('\n\nTotal accuracy cross validation: {:.3f}%'.format(total_acc))
于 2019-11-23T10:34:24.657 回答
4

你搞砸了索引。

x_train = x[train_index]
x_test = x[test_index]
y_train = y[train_index]
y_test = y[test_index]

    x_fold = x_train[train_index]
    y_fold = y_train[test_index]

它应该是：

x_fold = x_train[train_index]
y_fold = y_train[train_index]
于 2019-11-22T14:29:15.923 回答
0

尽管以上所有答案都提供了如何拆分数据集的一个很好的示例，但我对实现 K 折交叉验证的方式感到好奇。K-fold 旨在估计机器学习模型对看不见的数据的技能。使用有限的样本来估计模型在用于对模型训练期间未使用的数据进行预测时的总体预期表现。（参见维基百科中的概念和解释https://en.wikipedia.org/wiki/Cross-validation_(statistics)）因此，有必要在每折开始时初始化你的待训练模型的参数. 否则，您的模型将在 K 折后看到数据集中的每个样本，并且没有验证之类的东西（都是训练样本）。

于 2021-04-25T06:06:19.803 回答