0

我很好奇 Scikit-learn 的train_test_split()方法在以下场景中的行为：

一个虚构的数据集：

id, count, size
1, 4, 8
2, 5, 9
3, 6, 0

说我会像这样将它分成两个单独的集合（在两者中都保留“id”）：

id, count      |       id, size
1, 4           |       1, 8
2, 5           |       2, 9
3, 6           |       3, 0

train_test_split()并用相同random_state的将它们分开0。两者的顺序是否与“id”作为参考的顺序相同？（因为您正在改组相同的数据集，但省略了不同的部分）

我很好奇这是如何工作的，因为我有两个模型。第一个使用数据集进行训练并将其结果添加到数据集中，然后将其中的一部分用于训练第二个模型。

这样做时，重要的是在测试第二个模型的泛化时，不使用也用于训练第一个模型的数据点。这是因为数据“以前见过”并且模型将知道如何处理它，因此您不再测试对新数据的泛化。

如果train_test_split()将其改组相同，那就太好了，因为这样就不需要跟踪用于训练第一个算法以防止测试结果污染的数据。

4

1 回答 1

3

如果您random_state在每次调用中使用相同的参数，它们应该具有相同的结果索引。

但是 - 您也可以颠倒您的操作顺序。在父数据集上调用 test/train split，然后从结果的测试集和训练集创建两个子集。

例子：

print(df)
   id  count  size
0   1      4     8
1   2      5     9
2   3      6     0

from sklearn.model_selection import train_test_split
dfa = df[['id', 'count']].copy()
dfb = df[['id', 'size']].copy()
rstate = 123
traina, testa = train_test_split(dfa, random_state=123)
trainb, testb = train_test_split(dfb, random_state=123)
assert traina.index.equals(trainb.index)
# True
于 2017-12-04T14:35:59.890 回答