我想知道是否有一种直接的方法可以将 CSV 文件的内容导入到记录数组中，就像 R's read.table()、read.delim()和read.csv()family 将数据导入到 R 的数据框一样？
或者是使用csv.reader()然后应用类似的最好方法numpy.core.records.fromrecords()？
问问题
994430 次
13 回答
785
您可以使用 Numpy 的genfromtxt()方法来执行此操作，方法是将delimiterkwarg 设置为逗号。
from numpy import genfromtxt
my_data = genfromtxt('my_file.csv', delimiter=',')
有关该功能的更多信息，请参见其各自的文档。
于 2010-08-19T06:34:54.690 回答
221
我会推荐图书馆的read_csv功能：pandas
import pandas as pd
df=pd.read_csv('myfile.csv', sep=',',header=None)
df.values
array([[ 1. , 2. , 3. ],
[ 4. , 5.5, 6. ]])
这提供了一个 pandas DataFrame - 允许许多有用的数据操作函数，这些函数不能直接用于 numpy 记录数组。
DataFrame 是一种二维标记数据结构，具有可能不同类型的列。你可以把它想象成一个电子表格或 SQL 表......
我也会推荐genfromtxt。但是，由于问题要求记录数组，而不是普通数组，因此dtype=None需要将参数添加到genfromtxt调用中：
给定一个输入文件，myfile.csv：
1.0, 2, 3
4, 5.5, 6
import numpy as np
np.genfromtxt('myfile.csv',delimiter=',')
给出一个数组：
array([[ 1. , 2. , 3. ],
[ 4. , 5.5, 6. ]])
和
np.genfromtxt('myfile.csv',delimiter=',',dtype=None)
给出一个记录数组：
array([(1.0, 2.0, 3), (4.0, 5.5, 6)],
dtype=[('f0', '<f8'), ('f1', '<f8'), ('f2', '<i4')])
这样做的好处是可以轻松导入具有多种数据类型（包括字符串）的文件。
于 2014-10-10T09:30:25.933 回答
89
我尝试过这个 ：
from numpy import genfromtxt
genfromtxt(fname = dest_file, dtype = (<whatever options>))
相对 ：
import csv
import numpy as np
with open(dest_file,'r') as dest_f:
data_iter = csv.reader(dest_f,
delimiter = delimiter,
quotechar = '"')
data = [data for data in data_iter]
data_array = np.asarray(data, dtype = <whatever options>)
在大约 70 列的 460 万行上，发现 NumPy 路径耗时 2 分 16 秒，而 csv-list 理解方法耗时 13 秒。
我会推荐 csv-list 理解方法，因为它很可能依赖于预编译的库，而不是 NumPy 那样的解释器。我怀疑 pandas 方法会有类似的解释器开销。
于 2015-02-17T03:52:37.830 回答
68
您还可以尝试recfromcsv()哪个可以猜测数据类型并返回格式正确的记录数组。
于 2011-01-18T12:44:35.260 回答
22
当我尝试使用 NumPy 和 Pandas 两种方法时，使用 pandas 有很多优点：
- 快点
- 更少的 CPU 使用率
- 与 NumPy genfromtxt 相比，RAM 使用量为 1/3
这是我的测试代码：
$ for f in test_pandas.py test_numpy_csv.py ; do /usr/bin/time python $f; done
2.94user 0.41system 0:03.05elapsed 109%CPU (0avgtext+0avgdata 502068maxresident)k
0inputs+24outputs (0major+107147minor)pagefaults 0swaps
23.29user 0.72system 0:23.72elapsed 101%CPU (0avgtext+0avgdata 1680888maxresident)k
0inputs+0outputs (0major+416145minor)pagefaults 0swaps
test_numpy_csv.py
from numpy import genfromtxt
train = genfromtxt('/home/hvn/me/notebook/train.csv', delimiter=',')
test_pandas.py
from pandas import read_csv
df = read_csv('/home/hvn/me/notebook/train.csv')
数据文件：
du -h ~/me/notebook/train.csv
59M /home/hvn/me/notebook/train.csv
使用 NumPy 和 pandas 的版本：
$ pip freeze | egrep -i 'pandas|numpy'
numpy==1.13.3
pandas==0.20.2
于 2017-10-13T10:28:24.793 回答
8
一个很简单的方法。但它要求所有元素都是浮动的（int等）
import numpy as np
data = np.loadtxt('c:\\1.csv',delimiter=',',skiprows=0)
于 2018-01-30T11:34:40.773 回答
7
您可以使用此代码将 CSV 文件数据发送到数组中：
import numpy as np
csv = np.genfromtxt('test.csv', delimiter=",")
print(csv)
于 2017-06-21T07:52:48.830 回答
6
这是最简单的方法：
import csv
with open('testfile.csv', newline='') as csvfile:
data = list(csv.reader(csvfile))
现在 data 中的每个条目都是一条记录，表示为一个数组。所以你有一个二维数组。它为我节省了很多时间。
于 2018-06-13T21:00:25.420 回答
6
我建议使用表格 ( pip3 install tables)。您可以使用 pandas ( )保存.csv文件，.h5pip3 install pandas
import pandas as pd
data = pd.read_csv("dataset.csv")
store = pd.HDFStore('dataset.h5')
store['mydata'] = data
store.close()
然后，即使对于大量数据，您也可以轻松地以更少的时间将数据加载到NumPy 数组中。
import pandas as pd
store = pd.HDFStore('dataset.h5')
data = store['mydata']
store.close()
# Data in NumPy format
data = data.values
于 2018-06-22T09:39:10.070 回答
6
这项工作作为一个魅力......
import csv
with open("data.csv", 'r') as f:
data = list(csv.reader(f, delimiter=";"))
import numpy as np
data = np.array(data, dtype=np.float)
于 2019-08-25T17:18:34.300 回答
4
我试过这个：
import pandas as p
import numpy as n
closingValue = p.read_csv("<FILENAME>", usecols=[4], dtype=float)
print(closingValue)
于 2017-08-03T08:02:35.553 回答
4
适用于最新的 pandas 和 numpy 版本。
import pandas as pd
import numpy as np
data = pd.read_csv('data.csv', header=None)
# Discover, visualize, and preprocess data using pandas if needed.
data = data.to_numpy()
于 2021-08-26T03:25:52.140 回答
0
In [329]: %time my_data = genfromtxt('one.csv', delimiter=',')
CPU times: user 19.8 s, sys: 4.58 s, total: 24.4 s
Wall time: 24.4 s
In [330]: %time df = pd.read_csv("one.csv", skiprows=20)
CPU times: user 1.06 s, sys: 312 ms, total: 1.38 s
Wall time: 1.38 s
于 2021-01-13T04:19:13.253 回答