python - Python 中的 numpy.save() 和 joblib.dump() 有什么区别？

Question

我在 Python 中保存了很多离线模型/矩阵/数组，并遇到了这些函数。有人可以通过列出 numpy.save() 和 joblib.dump() 的优缺点来帮助我吗？

Answer 1

这是代码的关键部分joblib，应该可以从中得到一些启发。

def _write_array(self, array, filename):
    if not self.compress:
        self.np.save(filename, array)
        container = NDArrayWrapper(os.path.basename(filename),
                                   type(array))
    else:
        filename += '.z'
        # Efficient compressed storage:
        # The meta data is stored in the container, and the core
        # numerics in a z-file
        _, init_args, state = array.__reduce__()
        # the last entry of 'state' is the data itself
        zfile = open(filename, 'wb')
        write_zfile(zfile, state[-1],
                            compress=self.compress)
        zfile.close()
        state = state[:-1]
        container = ZNDArrayWrapper(os.path.basename(filename),
                                        init_args, state)
    return container, filename

基本上，joblib.dump可以选择压缩一个数组，它可以使用 存储到磁盘numpy.save，或者（用于压缩）存储一个 zip 文件。此外，joblib.dump存储一个NDArrayWrapper（或ZNDArrayWrapper用于压缩），它是一个轻量级对象，用于存储包含数组内容的保存/压缩文件的名称以及数组的子类。