python - Python pandas: output dataframe to csv with integers

Question

I have a pandas.DataFrame that I wish to export to a CSV file. However, pandas seems to write some of the values as float instead of int types. I couldn't not find how to change this behavior.

Building a data frame:

df = pandas.DataFrame(columns=['a','b','c','d'], index=['x','y','z'], dtype=int)
x = pandas.Series([10,10,10], index=['a','b','d'], dtype=int)
y = pandas.Series([1,5,2,3], index=['a','b','c','d'], dtype=int)
z = pandas.Series([1,2,3,4], index=['a','b','c','d'], dtype=int)
df.loc['x']=x; df.loc['y']=y; df.loc['z']=z

View it:

>>> df
    a   b    c   d
x  10  10  NaN  10
y   1   5    2   3
z   1   2    3   4

Export it:

>>> df.to_csv('test.csv', sep='\t', na_rep='0', dtype=int)
>>> for l in open('test.csv'): print l.strip('\n')
        a       b       c       d
x       10.0    10.0    0       10.0
y       1       5       2       3
z       1       2       3       4

Why do the tens have a dot zero ?

Sure, I could just stick this function into my pipeline to reconvert the whole CSV file, but it seems unnecessary:

def lines_as_integer(path):
    handle = open(path)
    yield handle.next()
    for line in handle:
        line = line.split()
        label = line[0]
        values = map(float, line[1:])
        values = map(int, values)
        yield label + '\t' + '\t'.join(map(str,values)) + '\n'
handle = open(path_table_int, 'w')
handle.writelines(lines_as_integer(path_table_float))
handle.close()

Answer 1

我正在寻找的答案与@Jeff 在他的答案中提出的略有不同。功劳归于他。这最终解决了我的问题以供参考：

import pandas
df = pandas.DataFrame(data, columns=['a','b','c','d'], index=['x','y','z'])
df = df.fillna(0)
df = df.astype(int)
df.to_csv('test.csv', sep='\t')

Answer 2

这是pandas (Support for integer NA) 中的一个“陷阱”，其中带有 NaN 的整数列被转换为浮点数。

这种权衡主要是出于内存和性能的原因，而且结果系列仍然是“数字的”。一种可能性是改用dtype=object数组。

Answer 3

问题在于，由于您是按行分配事物，但 dtype 是按列分组的，所以事物被强制转换为 dtype object，这不是一件好事，您会失去所有效率。因此，一种方法是根据需要将其转换为 float/int dtype。

正如我们在另一个问题中回答的那样，如果您一次构建所有框架（或逐列构建），则不需要此步骤

In [23]: def convert(x):
   ....:     try:
   ....:         return x.astype(int)
   ....:     except:
   ....:         return x
   ....:     

In [24]: df.apply(convert)
Out[24]: 
    a   b   c   d
x  10  10 NaN  10
y   1   5   2   3
z   1   2   3   4

In [25]: df.apply(convert).dtypes
Out[25]: 
a      int64
b      int64
c    float64
d      int64
dtype: object

In [26]: df.apply(convert).to_csv('test.csv')

In [27]: !cat test.csv
,a,b,c,d
x,10,10,,10
y,1,5,2.0,3
z,1,2,3.0,4

Answer 4

如果要在已导出的 csv 中保留 NaN 信息，请执行以下操作。PS：在这种情况下，我专注于“C”列。

df[c] = df[c].fillna('')       #filling Nan with empty string
df[c] = df[c].astype(str)      #convert the column to string 
>>> df
    a   b    c     d
x  10  10         10
y   1   5    2.0   3
z   1   2    3.0   4

df[c] = df[c].str.split('.')   #split the float value into list based on '.'
>>> df
        a   b    c          d
    x  10  10   ['']       10
    y   1   5   ['2','0']   3
    z   1   2   ['3','0']   4

df[c] = df[c].str[0]            #select 1st element from the list
>>> df
    a   b    c   d
x  10  10       10
y   1   5    2   3
z   1   2    3   4

现在，如果您将数据框导出到 csv，“c”列将没有浮点值，并且 NaN 信息将被保留。

Answer 5

只需将其作为字符串写入 csv：

df.to_csv('test.csv', sep='\t', na_rep='0', dtype=str)

Answer 6

您可以使用 astype() 为每列指定数据类型

例如：

import pandas
df = pandas.DataFrame(data, columns=['a','b','c','d'], index=['x','y','z'])

df = df.astype({"a": int, "b": complex, "c" : float, "d" : int})

Answer 7

您可以将 DataFrame 更改为 Numpy 数组作为解决方法：

 np.savetxt(savepath, np.array(df).astype(np.int), fmt='%i', delimiter = ',', header= 'PassengerId,Survived', comments='')

Answer 8

float_format最简单的解决方案是使用pd.read_csv()：

df.to_csv('test.csv', sep='\t', na_rep=0, float_format='%.0f')

但这适用于所有浮动列。顺便说一句：在 pandas 1.1.5 上使用您的代码，我的所有列都是浮动的。

输出：

    a   b   c   d
x   10  10  0   10
y   1   5   2   3
z   1   2   3   4

没有float_format：

    a   b   c   d
x   10.0    10.0    0    10.0
y    1.0     5.0    2.0   3.0
z    1.0     2.0    3.0   4.0