1

我见过很多关于臭名昭著的SettingWithCopy警告的问题。我什至敢于回答其中的几个。最近,我正在整理一个涉及该主题的答案,我想展示数据框视图的好处。我未能提供具体的演示来说明为什么创建数据框视图或生成的任何东西是一个好主意SettingWithCopy

考虑df

df = pd.DataFrame([[1, 2], [3, 4]], list('ab'), list('AB'))
df

   A  B
x  1  2
y  3  4

dfv是一个副本df

dfv = df[['A']]

print(dfv.is_copy)

<weakref at 0000000010916E08; to 'DataFrame' at 000000000EBF95C0>

print(bool(dfv.is_copy))

True

我可以生成SettingWithCopy

dfv.iloc[0, 0] = 0

在此处输入图像描述


然而,dfv变了

print(dfv)

   A
a  0
b  3

df没有

print(df)

   A  B
x  1  2
y  3  4

仍然dfv是副本

print(bool(dfv.is_copy))

True

如果我改变df

df.iloc[0, 0] = 7
print(df)

   A  B
x  7  2
y  3  4

dfv一直没有改变。但是,我可以df参考dfv

print(dfv.is_copy())

   A  B
x  7  2
y  3  4

问题

如果dfv维护它自己的数据(意思是,它实际上并没有节省内存)并且它通过赋值操作分配值,尽管有警告,那么为什么我们首先要费心保存引用并生成SettingWithCopyWarning呢?

有什么实实在在的好处?

4

1 回答 1

3

对此有很多现有的讨论,例如,请参见此处,包括尝试的 PR。还值得注意的是,真正的视图写入时复制被视为“pandas 2.0”重构的一部分,请参见此处

在您的示例中维护引用的原因特别是因为它不是视图,因此如果有人尝试这样做,他们会收到警告。

df[['A']].iloc[0, 0] = 1

编辑:

就“为什么要使用视图”而言,这是出于性能/内存的原因。考虑一下,基本索引(选择一列),因为这个操作需要一个视图,它几乎是瞬时的。

df = pd.DataFrame(np.random.randn(1000000, 2), columns=['a','b'])

%timeit df['a']
100000 loops, best of 3: 2.13 µs per loop

而获取副本的成本不菲。

%timeit df['a'].copy()
100 loops, best of 3: 4.28 ms per loop

这种性能成本会出现在许多操作中,例如将两个Series相加。

%timeit df['a'] + df['b']
100 loops, best of 3: 4.31 ms per loop

%timeit df['a'].copy() + df['b'].copy()
100 loops, best of 3: 13.3 ms per loop
于 2016-09-12T17:54:17.207 回答