mpi - 学习 MPI 实现

Question

了解 MPI 如何实施的最佳方法是什么？硬件中有哪些支持来加速 MPI？网卡究竟提供了哪些功能？MPI 实现与 SHMEM 的实现有何不同？

我也对所有实现如何在进程之间传输数据（共享内存、消息队列、NIC、kaput 等）感到困惑。

我一直在寻找有关该主题的书籍，但我能找到的只是有关如何“使用”MPI 或 MPI 算法的书籍。

我是否应该深入研究其中一种开源实现的源代码？

Answer 1

我推荐几个资源：

1. 官方MPI 论坛文档，包括当前和旧版本的 MPI 规范。
2. OpenMPI Papers - 一些关于实现和低级通信 &c 的有趣论文。
3. MPICH 来源（根据 Hirsto Iliev 的评论）
4. OpenMPI 源代码