matrix-multiplication - 将两个矩阵相乘的缓存友好方法

Question

我打算使用缓存友好的方法将 2 个矩阵相乘（这将导致更少的未命中）

我发现这可以通过缓存友好的转置功能来完成。

但我找不到这个算法。我可以知道如何实现这一目标吗？

Answer 1

你要找的词是thrashing。在 Google 中搜索抖动矩阵乘法会产生更多结果。

c = a*b 的标准乘法算法看起来像

void multiply(double[,] a, double[,] b, double[,] c)
{
    for (int i = 0; i < n; i++)
        for (int j = 0; j < n; j++)
            for (int k = 0; k < n; k++)
                C[i, j] += a[i, k] * b[k, j]; 
}

基本上，以大步快速导航内存对性能不利。B[ k , j] 中k的访问模式正是这样做的。因此，我们可以重新排列操作，以便最内部的循环仅在矩阵的第二个访问索引上操作，而不是在内存中跳转：

void multiply(double[,] a, double[,] B, double[,] c)
{  
   for (i = 0; i < n; i++)
   {  
      double t = a[i, 0];
      for (int j = 0; j < n; j++)
         c[i, j] = t * b[0, j];

      for (int k = 1; k < n; k++)
      {
         double s = 0;
         for (int j = 0; j < n; j++ )
            s += a[i, k] * b[k, j];
         c[i, j] = s;
      }
   }
}

这是该页面上给出的示例。但是，另一种选择是预先将 B[k, *] 的内容复制到一个数组中，并在内部循环计算中使用该数组。这种方法通常比其他方法快得多，即使它涉及复制数据。即使这看起来违反直觉，也请随意尝试。

void multiply(double[,] a, double[,] b, double[,] c)
{
    double[] Bcolj = new double[n];
    for (int j = 0; j < n; j++)
    {
        for (int k = 0; k < n; k++)
            Bcolj[k] = b[k, j];

        for (int i = 0; i < n; i++)
        {
            double s = 0;
            for (int k = 0; k < n; k++)
                s += a[i,k] * Bcolj[k];
            c[j, i] = s;
        }
   }
}

Answer 2

@Cesar 的回答不正确。例如，内循环

for (int k = 0; k < n; k++)
   s += a[i,k] * Bcolj[k];

遍历 a 的第 i 列。

以下代码应确保我们始终逐行访问数据。

void multiply(const double (&a)[I][K], 
              const double (&b)[K][J], 
              double (&c)[I][J]) 
{
    for (int j=0; j<J; ++j) {
       // iterates the j-th row of c
       for (int i=0; i<I; ++i) {
         c[i][j] = 0;
       } 

       // iterates the j-th row of b
       for (int k=0; k<K; ++k) {
          double t = b[k][j];
          // iterates the j-th row of c
          // iterates the k-th row of a
          for (int i=0; i<I; ++i) {
            c[i][j] += a[i][k] * t;
          } 
       }
    }
}