3

我试图理解 OpenMP 打破循环矢量化的概念原因。此外,任何解决此问题的建议都会有所帮助。我正在考虑手动并行化它来解决这个问题,但这肯定不会优雅并导致大量代码膨胀,因为我的代码由几个这样的部分组成,这些部分适合矢量化和并行化。

我在用

Microsoft (R) C/C++ 优化编译器版本 17.00.60315.1 for x64

使用 OpenMP:

信息 C5002:由于原因“502”,循环未矢量化

没有 OpenMP:

信息 C5001:循环矢量化

VS矢量化页面显示此错误发生在以下情况:

归纳变量以某种方式步进,而不是简单的 +1

我可以强制它步入 1 步吗?

循环

#pragma omp parallel for
for (int j = 0; j < H*W; j++)//A,B,C,D,IN are __restricted
{
    float Gs = D[j]-B[j];
    float Gc = A[j]-C[j];
    in[j]=atan2f(Gs,Gc);
}

最大努力(?)

#pragma omp parallel
{// This seems to vectorize, but it still requires quite a lot of boiler code
    int middle = H*W/2;
    #pragma omp sections nowait
    {
        #pragma omp section
        for (int j = 0; j < middle; j++)
        {
            float Gs = D[j]-B[j];
            float Gc = A[j]-C[j];
            in[j]=atan2f(Gs,Gc);
        }
        #pragma omp section
        for (int j = middle; j < H*W; j++)
        {
            float Gs = D[j]-B[j];
            float Gc = A[j]-C[j];
            in[j]=atan2f(Gs,Gc);
        }
    }
}
4

2 回答 2

2

我建议您手动进行矢量化。一个原因是自动矢量化似乎不能很好地处理循环依赖(循环展开)。

为了避免代码膨胀和晦涩难懂的内在函数,我使用了 Agner Fog 的矢量类。根据我的经验,它与使用内在函数一样快,并且它会根据您的编译方式自动利用 SSE2-AVX2(AVX2 在英特尔仿真器上进行测试)。我使用可在 SSE2 到 AVX2 上运行的矢量类编写了 GEMM 代码,当我在带有 AVX 的系统上运行时,我的代码已经比仅使用 SSE 的 Eigen 更快。这是您使用矢量类的函数(我没有尝试展开循环)。

#include "omp.h"
#include "math.h"

#include "vectorclass.h"
#include "vectormath.h"

void loop(const int H, const int W, const int outer_stride, float *A, float *B, float *C, float *D, float* in) {
    #pragma omp parallel for
    for (int j = 0; j < H*W; j+=8)//A,B,C,D,IN are __restricted, W*H must be a multiple of 8
    {
        Vec8f Gs = Vec8f().load(&D[j]) - Vec8f().load(&B[j]);
        Vec8f Gc = Vec8f().load(&A[j]) - Vec8f().load(&C[j]);
        Vec8f invec = atan(Gs, Gc);
        invec.store(&in[j]);
    }

}

自己进行矢量化时,您必须小心数组边界。在上面的函数中,H W 需要是 8 的倍数。有几种解决方案,但最简单和最有效的解决方案是使数组 (A,B,C,D,in) 稍大一些(最多 7 个浮点数更大)如果需要是 8 的倍数。但是,另一种解决方案是使用以下代码,它不需要 W H 是 8 的倍数,但它并不那么漂亮。

#define ROUND_DOWN(x, s) ((x) & ~((s)-1))
void loop_fix(const int H, const int W, const int outer_stride, float *A, float *B, float *C, float *D, float* in) {
    #pragma omp parallel for
    for (int j = 0; j < ROUND_DOWN(H*W,8); j+=8)//A,B,C,D,IN are __restricted
    {
        Vec8f Gs = Vec8f().load(&D[j]) - Vec8f().load(&B[j]);
        Vec8f Gc = Vec8f().load(&A[j]) - Vec8f().load(&C[j]);
        Vec8f invec = atan(Gs, Gc);
        invec.store(&in[j]);
    }
    for(int j=ROUND_DOWN(H*W,8); j<H*W; j++) {
        float Gs = D[j]-B[j];
        float Gc = A[j]-C[j];
        in[j]=atan2f(Gs,Gc);
    }

}

自己进行矢量化的一个挑战是找到一个 SIMD 数学库(例如用于 atan2f)。矢量类支持 3 个选项。非 SIMD、AMD 的 LIBM 和英特尔的 SVML(我在上面的代码中使用了非 SIMD 选项)。 SSE 和 AVX 的 SIMD 数学库

您可能要考虑的最后一些评论。Visual Studio 具有自动并行化(默认关闭)和自动矢量化(默认开启,至少在发布模式下)。你可以试试这个而不是 OpenMP 来减少代码膨胀。 http://msdn.microsoft.com/en-us/library/hh872235.aspx

此外,Microsoft 有并行模式库。由于 Microsoft 的 OpenMP 支持有限,因此值得研究。它几乎和 OpenMP 一样容易使用。这些选项之一可能更适合自动矢量化(尽管我对此表示怀疑)。就像我说的,我会使用矢量类手动进行矢量化。

于 2013-05-13T18:45:28.357 回答
1

您可以尝试循环展开而不是sections

#pragma omp parallel for
for (int j = 0; j < H*W; j += outer_stride)//A,B,C,D,IN are __restricted
{
  for (int ii = 0; ii < outer_stride; ii++) {
    float Gs = D[j+ii]-B[j+ii];
    float Gc = A[j+ii]-C[j+ii];
    in[j+ii] = atan2f(Gs,Gc);
  }
}

outer_strideSIMD 线的合适倍数在哪里。此外,您可能会发现此答案很有用。

于 2013-05-13T14:40:58.863 回答