3

我正在用 C 语言学习 OpenMPI。当我用这个程序做矩阵乘法时，我遇到了一些麻烦，结果是错误的。程序可以编译，但我觉得我的矩阵乘法算法有问题。

我解决这个问题的方法是使用 MPI_Scatter 来分散矩阵 A，然后转置矩阵 B。然后是 MPI_Scatter 矩阵 B。一旦它们被分散，我就进行矩阵乘法的计算并将结果收集回根进程。我不确定我是否遗漏了什么，但我还没有完全理解 Scatter and Gather。我知道使用 Send 你可以从不同的进程发送到单个进程和 Recv，但是这如何与 Scatter 和 Gather 一起工作。如果我在这段代码的某个地方犯了错误，请告诉我。谢谢。

我的源代码：

#define N 512
#include <stdio.h>
#include <math.h>
#include <mpi.h>
#include <sys/time.h>
print_results(char *prompt, float a[N][N]);
 int main(int argc, char *argv[]) {
  int size, rank, blksz, i, j, k;
  float a[N][N], b[N][N], c[N][N];
  char *usage = "Usage: %s file\n";
  float row[N][N], col[N][N];
  FILE *fd;
  int portion, lowerbound, upperbound;
  double elapsed_time, start_time, end_time;
  struct timeval tv1, tv2;

  MPI_Init(&argc, &argv);
  MPI_Comm_rank(MPI_COMM_WORLD, &rank);
  MPI_Comm_size(MPI_COMM_WORLD, &size);
  blksz = (int) ceil((double) N / size);
  /*
  if (argc < 2) {
      fprintf (stderr, usage, argv[0]);
      return -1;
  }
  if ((fd = fopen(argv[1], "r")) == NULL) {
         fprintf(stderr, "%s: Cannot open file %s for reading.\n", argv[0],argv[1]);
         fprintf(stderr, usage, argv[0]);
         return -1;
 }
 */

//Read input from file for matrices a and b.
//The I/O is not timed because this I/O needs
//to be done regardless of whether this program
//is run sequentially on one processor or in
//parallel on many processors. Therefore, it is
//irrelevant when considering speedup.
if (rank == 0) {
    for (i = 0; i < N; i++)
        for (j = 0; j < N; j++)
            a[i][j] = i + j;
    for (i = 0; i < N; i++)
        for (j = 0; j < N; j++)
            b[i][j] = i + j;
    /*
    for (i = 0; i < N; i++) {
        for (j = i + 1; j < N; j++) {
            int temp = b[i][j];
            b[i][j] = b[j][i];
            b[j][i] = temp;
        }
    }
    */
}

//TODO: Add a barrier prior to the time stamp.
MPI_Barrier(MPI_COMM_WORLD);
// Take a time stamp
gettimeofday(&tv1, NULL);
//TODO: Scatter the input matrices a and b.
    MPI_Scatter(a, blksz * N, MPI_FLOAT, row, blksz * N, MPI_FLOAT, 0,
        MPI_COMM_WORLD);
    MPI_Scatter(b, blksz * N, MPI_FLOAT, col, blksz * N, MPI_FLOAT, 0,
        MPI_COMM_WORLD);
//TODO: Add code to implement matrix multiplication (C=AxB) in parallel.
for (i = 0; i < blksz && rank * blksz + i < N; i++) {
    for (j = 0; j < N; j++) {
        c[i][j] = 0.0;
        for (k = 0; k < N; k++) {
            c[i][j] += row[i][j] * col[j][k];
        }
    }
}
//TODO: Gather partial result back to the master process.
MPI_Gather(c, blksz * N, MPI_FLOAT, c, blksz * N, MPI_FLOAT, 0,
        MPI_COMM_WORLD);
// Take a time stamp. This won't happen until after the master
// process has gathered all the input from the other processes.
gettimeofday(&tv2, NULL);
elapsed_time = (tv2.tv_sec - tv1.tv_sec) + ((tv2.tv_usec - tv1.tv_usec)
        / 1000000.0);
printf("elapsed_time=\t%lf (seconds)\n", elapsed_time);
// print results
MPI_Barrier(MPI_COMM_WORLD);
print_results("C = ", c);
MPI_Finalize();

}

print_results(char *prompt, float a[N][N]) {
int i, j;
printf("\n\n%s\n", prompt);
for (i = 0; i < N; i++) {
    for (j = 0; j < N; j++) {
        printf(" %.2f", a[i][j]);
    }
    printf("\n");
}
printf("\n\n");
}
4

2 回答 2

2

你的计算内核是错误的。b据说是转置的，并且 c i ,j只是 row ifroma和 row jfrom的点积b，最里面的循环应该是：

for (k = 0; k < N; k++) {
    c[i][j] += row[i][k] * col[j][k];  // row[i][k] and not row[i][j]
}

除了您的矩阵之外，float但在（注释掉的）转置代码中，temp变量是int. 它可能适用于那种特殊情况，因为你用整数初始化a和b使用整数的元素，但在一般情况下不起作用。

否则分散/聚集部分看起来很好。请注意，如果N不能被 MPI 进程的数量整除，您的代码将无法工作。要处理这些情况，您可能需要考虑使用MPI_Scattervand MPI_Gatherv。

于 2012-09-22T19:42:55.370 回答
0

希望您正在尝试进行矩阵乘法。不需要转置矩阵。

你不能分散矩阵 b 。因为对于矩阵中的每一行，a您都需要整个b矩阵。广播 b 矩阵是正确的。

MPI_Scatter(a, blksz * N, MPI_FLOAT, row, blksz * N, MPI_FLOAT, 0,MPI_COMM_WORLD);
MPI_Bcast(b, N * N, MPI_FLOAT, 0,MPI_COMM_WORLD);

正如@Hristo lliev 所提到的，您的乘法代码需要更改。

for (i = 0; i < blksz && rank * blksz + i < N; i++) {
    for (j = 0; j < N; j++) {
        product[i][j] = 0.0;
        for (k = 0; k < N; k++) {
            product[i][j] = product[i][j]+ row[i][k] * b[k][j];
        }
    }
}

此实现的正确数组声明是

float row[blksz][N] , product[blksz][N]

使用gather来组合product来自根节点的所有节点的数组。

MPI_Gather(product, blksz * N, MPI_FLOAT, c, blksz * N, MPI_FLOAT, 0,MPI_COMM_WORLD);

你需要使用MPI_Scatterv和MPI_Gatherv

于 2013-01-23T01:09:30.887 回答