我需要将几个 numpy 数组和 Python 对象保存到磁盘。我想完全最小化 I/O。我不介意加载程序或保存程序是否必须在内存中进行任何提升,但I/O 占用空间(实际访问)应该是最低的,因为当许多作业同时访问文件系统时,我们的集群中会出现问题.
我试过:
import numpy as np
my_data = dict()
my_data['r1'] = np.random.randint(3, size=(100,200))
my_data['rs'] = np.random.randint(3, size=(50,400))
my_data['annotation_info'] = 'Two random arrays'
my_data['current_date'] = 'July 28'
np.savez('test.npz', my_data = my_data)
但是当我加载这个时,我得到:
temp = np.load('test.npz')
my_data = temp['my_data']
my_data['r1']
ValueError: field named features not found
此外,my_data
现在似乎是一个数组,my_data.shape
返回()
. 奇怪的是,如果我这样做:
print(my_data)
我得到:
{'current_date': 'July 28', 'rs': array([[0, 1, 0, ..., 0, 2, 0],
[1, 1, 1, ..., 1, 1, 0],
[2, 1, 1, ..., 1, 1, 0],
...,
[1, 0, 2, ..., 2, 0, 1],
[0, 2, 0, ..., 1, 1, 0],
[1, 1, 0, ..., 1, 1, 1]]), 'annotation_info': 'Two random arrays', '
r1': array([[2, 0, 1, ..., 0, 2, 2],
[0, 0, 2, ..., 0, 2, 1],
[2, 2, 2, ..., 1, 0, 0],
...,
[0, 2, 1, ..., 2, 0, 0],
[0, 0, 1, ..., 2, 1, 0],
[2, 1, 2, ..., 0, 2, 2]])}
更新
如果我按照 unutbu 的建议进行操作:
np.savez('test.npz', **my_data)
my_data = np.load('test.npz')
my_variable = my_data['annotation_info']
my_variable
不是字符串,例如my_variable.upper()
返回:
numpy.ndarray object has no attribute 'upper'
事实上type(my_variable)
返回:
numpy.ndarray
但同样,my_variable[0]
抛出一个错误,并my_variable.shape
返回()
(这似乎是 a 0-Rank array
)
如何访问存储在数组中的实际对象?