4

假设我有n 个进程，每个进程都拥有一个本地数据，比如一个int。

现在我想重新实现MPI_Allreduce()函数，即计算所有这些整数的全局总和，然后将结果总和广播回进程。

我试图在下面的代码中这样做：

  int temp;
  int my_sum = temp = my_data;
  for (int i = 1; i < size; ++i) {
    int partner = (my_rank + 1) % size;
    MPI_Sendrecv_replace(&temp, 1, MPI_INT, 
                         partner, 0, 
                         my_rank, 0, 
                         MPI_COMM_WORLD, MPI_STATUS_IGNORE);
    my_sum += temp;
  }

以便进程以环形方式进行通信，但它是阻塞的。为什么？如何更改代码以使其正常工作？

注意：请不要建议问题的替代（更好）解决方案（显然，其中之一是使用MPI_Allreduce()函数）。我的目标是理解为什么这个代码片段不能像我认为的那样工作。

4

1 回答 1

7

每个人都试图从自己那里接收，但他们正在发送到partner；因为partner永远不会收到正在发送的消息，my_rank也永远不会从这里收到消息，所以有一个挂起。

如果您尝试向 发送数据parter，那么您需要确保partner从您那里接收，这意味着每个人都需要从 接收(myrank - 1 + size) % size：

int spartner = (my_rank + 1) % size;
int rpartner = (my_rank - 1 + size) % size;
MPI_Sendrecv_replace(&temp, 1, MPI_INT,
                     spartner, i,
                     rpartner, i,
                     MPI_COMM_WORLD, MPI_STATUS_IGNORE);

这样，在每次迭代中，等级 3（比如说）正在发送到 4，等级 4 正在从等级 3 接收，因此 sendrecv 完成。（我还冒昧地为循环中的每个迭代提供了自己的标签，这在这里并不是必需的，但如果存在其他不匹配的消息类型错误，通常有助于发现错误。）

于 2012-08-29T00:06:09.523 回答