Find centralized, trusted content and collaborate around the technologies you use most.
Teams
Q&A for work
Connect and share knowledge within a single location that is structured and easy to search.
我应该使用哪种 python 数据类型来创建具有快速随机访问的巨大二维数组 (7Mx7M)?我想把每个元素写一次,读很多次。
谢谢
由于如此大量的数据可能无法放入内存,我会推荐使用底层 HDF5 文件并支持高效切片、ND 数组数据、压缩等的 PyTables。
http://www.pytables.org/
这将有助于更多地了解您的数据,以及您需要提供什么样的访问权限。对你来说“足够快”有多快?为了清楚起见,“7M”意味着 7,000,000 对吗?
作为没有任何这些信息的快速回答,我在使用 redis 和 tokyo tyrant 快速读取大量数据(数百兆字节或千兆字节)方面有过积极的经验。