5

我刚刚拿起 HDF5，我对为内存创建数据和为文件创建数据之间的区别有点困惑。有什么不同？

在本例中，创建复合类型数据需要在内存中创建数据并放置在文件中：

 /*
 * Create the memory data type. 
 */
s1_tid = H5Tcreate (H5T_COMPOUND, sizeof(s1_t));
H5Tinsert(s1_tid, "a_name", HOFFSET(s1_t, a), H5T_NATIVE_INT);
H5Tinsert(s1_tid, "c_name", HOFFSET(s1_t, c), H5T_NATIVE_DOUBLE);
H5Tinsert(s1_tid, "b_name", HOFFSET(s1_t, b), H5T_NATIVE_FLOAT);

/* 
 * Create the dataset.
 */
dataset = H5Dcreate(file, DATASETNAME, s1_tid, space, H5P_DEFAULT);

/*
 * Wtite data to the dataset; 
 */
status = H5Dwrite(dataset, s1_tid, H5S_ALL, H5S_ALL, H5P_DEFAULT, s1);

但是，在这里的另一个例子中，作者还为文件创建了一个复合数据，它指定了不同的数据类型。例如，在为内存创建数据类型时，serial_no 使用了 H5T_NATIVE_INT类型，但在为文件创建数据类型时，serial_no 使用了 H5T_STD_I64BE。他为什么这样做？

    /*
 * Create the compound datatype for memory.
 */
memtype = H5Tcreate (H5T_COMPOUND, sizeof (sensor_t));
status = H5Tinsert (memtype, "Serial number",
            HOFFSET (sensor_t, serial_no), H5T_NATIVE_INT);
status = H5Tinsert (memtype, "Location", HOFFSET (sensor_t, location),
            strtype);
status = H5Tinsert (memtype, "Temperature (F)",
            HOFFSET (sensor_t, temperature), H5T_NATIVE_DOUBLE);
status = H5Tinsert (memtype, "Pressure (inHg)",
            HOFFSET (sensor_t, pressure), H5T_NATIVE_DOUBLE);

/*
 * Create the compound datatype for the file.  Because the standard
 * types we are using for the file may have different sizes than
 * the corresponding native types, we must manually calculate the
 * offset of each member.
 */
filetype = H5Tcreate (H5T_COMPOUND, 8 + sizeof (hvl_t) + 8 + 8);
status = H5Tinsert (filetype, "Serial number", 0, H5T_STD_I64BE);
status = H5Tinsert (filetype, "Location", 8, strtype);
status = H5Tinsert (filetype, "Temperature (F)", 8 + sizeof (hvl_t),
            H5T_IEEE_F64BE);
status = H5Tinsert (filetype, "Pressure (inHg)", 8 + sizeof (hvl_t) + 8,
            H5T_IEEE_F64BE);

/*
 * Create dataspace.  Setting maximum size to NULL sets the maximum
 * size to be the current size.
 */
space = H5Screate_simple (1, dims, NULL);

/*
 * Create the dataset and write the compound data to it.
 */
dset = H5Dcreate (file, DATASET, filetype, space, H5P_DEFAULT, H5P_DEFAULT,
            H5P_DEFAULT);
status = H5Dwrite (dset, memtype, H5S_ALL, H5S_ALL, H5P_DEFAULT, wdata);

这两种方法有什么区别？

4

2 回答 2

5

来自http://www.hdfgroup.org/HDF5/doc/UG/UG_frame11Datatypes.html：

H5T_NATIVE_INT 对应于 C int 类型。在基于 Intel 的 PC 上，此类型与 H5T_STD_I32LE 相同，而在 MIPS 系统上，这将等效于 H5T_STD_I32BE。

也就是说，H5T_NATIVE_INT 在不同类型的处理器上具有不同的内存布局。如果您的数据只在内存中使用，这意味着您的数据不会从这台机器中流出，您可能希望使用 H5T_NATIVE_INT 以获得更好的性能。

但是如果你的数据将被保存到文件中，并且将被不同的系统使用，你必须指定某种 int 类型来保持你的数据可以被正确读取，例如 H5T_STD_I64BE 或 H5T_STD_I32LE。如果您使用 H5T_NATIVE_INT，并且您在基于 Intel 的 PC 上创建了一个数据文件，则该编号将保存为 H5T_STD_I32LE。当这个文件被 MIPS 系统使用时，它将读取的数字为 H5T_STD_I32BE，这不是预期的。

于 2013-03-01T02:27:58.793 回答
0

这里的另一个答案是缺少一些关键思想，使得使用 HDF5 数据类型看起来比实际更难。

首先，NATIVE 类型只是 C 类型在该平台上映射到的别名（在构建 HDF5 库时会检测到这一点）。如果您在代码中使用它们并查看您使用 h5dump 工具创建的文件，您将不会看到 NATIVE 数据类型，而是会看到真正的数据类型（H5T_STD_I32LE 或诸如此类）。诚然，这些 NATIVE 类型有点令人困惑，但它们便于在 C 类型和 HDF5 数据类型之间进行映射，而无需知道您所在系统的字节顺序。

我想澄清的另一个误解是，库会在合理的情况下为您转换类型。如果数据集包含 H5T_STD_I32BE 值，并且您在 little-endian 系统上声明 I/O 缓冲区为 H5T_NATIVE_INT，则 HDF5 库将为您将 big-endian 数据集整数转换为内存中 little-endian 整数。您不需要自己执行字节交换。

这是一个简单的思考方法：

  • 在调用 H5Dcreate() 时声明数据集的存储数据类型。
  • 在调用 H5Dread() 和 H5Dwrite() 时声明I/O 缓冲区的数据类型。

同样，如果这些不同并且类型转换是合理的，则数据将在读/写调用期间进行转换。

请注意，这种类型转换可能会对时间要求严格的应用程序产生性能影响。如果将写入和读取数据的平台在字节顺序或字长上不同，您可能希望显式设置数据类型而不是使用 NATIVE 别名，以便强制转换在不太重要的平台上进行。

示例：假设您有一个 BE 写入器和 LE 读取器，并且数据到达缓慢但读取必须尽可能快。在这种情况下，您需要显式创建数据集来存储 H5T_STD_I32LE 数据，以便在编写器上进行数据类型转换。

最后一件事——在构造复合类型时，最好使用 HOFFSET(s,m) 宏而不是手动计算偏移量。它更易于维护，您的代码看起来会更好。

如果您想了解有关 HDF5 数据类型的更多信息，请在此处查看用户指南的第 6 章：https: //support.hdfgroup.org/HDF5/doc/UG/HDF5_Users_Guide-Responsive%20HTML5/index.html

您还可以在此处查看参考手册中的 H5T API 文档：https: //support.hdfgroup.org/HDF5/doc/RM/RM_H5Front.html

于 2017-09-27T07:00:33.570 回答