在论文The Google File System Section 2.3 中,它说:
文件被分成固定大小的块。
但不要说为什么。这样做有什么好处?
据我所知,有几个原因
易于复制。与整个文件相比,复制几个块更容易。如果在复制过程中出现任何错误,只需重新复制失败的块。
平衡服务器负载。读取和写入操作都可以在所有块服务器之间分离。
提高读取和写入的吞吐量。由于数百个服务器可以同时处理请求,因此可以提高读写吞吐量。应用程序从主服务器获取文件块的元数据,然后直接从块服务器获取这些块。
更好的磁盘利用率。如果您的文件往往很大,那么一个块和磁盘只有很少的空间,那么为一个块而不是整个文件找到足够的空间会更容易。
易于完整性检查。计算块的校验和比整个文件快。当检测到损坏的块时,更容易修复块而不是整个文件。
这个概念似乎与底层操作系统和 DBMS 完全一样,它们使用固定大小的页面/块用于虚拟内存以及磁盘上的数据放置。拥有固定大小的块有助于碎片化,这意味着如果文件被删除,空间将未被使用,因此很难重用它,因此块的大小也保持较小。这里 GFS 实际上只用于后期处理,所以没有很多删除。但是拥有小的固定大小的块也可以很容易地在它们上运行 map reduce 作业。
这样,客户端可以请求特定的块,知道每个大小只能达到 64mb,因此也可以更好地利用缓存。