我正在寻找一个好的数据库解决方案来存储大量（约 100 GB 到几 TB）的科学数据。理想情况下，它将能够处理大量数据。
要求
我的数据文件是“图像”，一个约 400 万个条目数组（1000x1000x3 整数 + 1000x1000 浮点数），加上每个图像约 50-100 个条目的相关元数据。元数据分层存储。图像将被组织到一个或多个“文件夹”（或“项目”）中，它们本身可以包含其他文件夹。一切都有所有者，等等。
我需要在一个或多个文件夹中搜索 100-10,000 张图像，主要基于其元数据。然后，我可能需要从图像中提取切片——如果我只需要其中的一小部分，我真的不想加载所有数据。图像应以压缩格式存储。
编辑：重要的是要强调我缺乏统一的数据。例如，图像是未知尺寸的浮点数或整数，通常具有 10^5-10^6 个条目，并且每个图像的元数据数量可能会有所不同。跨图像搜索元数据当然仅限于具有相同键的那些。
当前方法
我目前的，但不是很好的解决方案是混合数据库。首先，我使用 SQL 数据库（现在是 Django + MySQL）来处理“文件夹”、所有者，并且每个图像都有记录，但没有任何数据。我也可以为元数据创建记录。其次，我使用 PyTables 以 hdf5 格式存储图像和元数据，并将其视为数据库。这解决了切片和压缩问题，并允许我分层存储元数据，但 PyTables 似乎没有可扩展性，并且远不如商业数据库发达。（它不是为多用户环境而设计的：我正在编写自己的锁！这是一个不好的迹象。）
帮助！
我不是铁杆程序员，因此强烈推荐标准数据库解决方案。我的“优化”肯定会包括维护和编程成本。谁能推荐最喜欢的数据库解决方案或架构？关于关系vs分层vs其他的想法？
选项可能是 SciDB（不常见，可能很好）、SQL（听说这对这些应用程序不利，可能是 PostgreSQL？）和 HBase（实际上，我对此一无所知）。我觉得在科学，尤其是天文学，社区中肯定有好的解决方案，但是大型项目似乎需要一个认真的团队来建立和维护。
我很乐意提供更多信息。