sse - 如何水平求和 __m256？

Question

我想__m256使用 AVX 指令对向量的分量进行水平求和。在 SSE 我可以使用

_mm_hadd_ps(xmm,xmm);
_mm_hadd_ps(xmm,xmm);

在向量的第一个分量处得到结果，但这不能与 256 位版本的函数 ( _mm256_hadd_ps) 一起缩放。

计算__m256向量水平和的最佳方法是什么？

Answer 1

此版本应该最适合 Intel Sandy/Ivy Bridge 和 AMD Bulldozer 以及更高版本的 CPU。

// x = ( x7, x6, x5, x4, x3, x2, x1, x0 )
float sum8(__m256 x) {
    // hiQuad = ( x7, x6, x5, x4 )
    const __m128 hiQuad = _mm256_extractf128_ps(x, 1);
    // loQuad = ( x3, x2, x1, x0 )
    const __m128 loQuad = _mm256_castps256_ps128(x);
    // sumQuad = ( x3 + x7, x2 + x6, x1 + x5, x0 + x4 )
    const __m128 sumQuad = _mm_add_ps(loQuad, hiQuad);
    // loDual = ( -, -, x1 + x5, x0 + x4 )
    const __m128 loDual = sumQuad;
    // hiDual = ( -, -, x3 + x7, x2 + x6 )
    const __m128 hiDual = _mm_movehl_ps(sumQuad, sumQuad);
    // sumDual = ( -, -, x1 + x3 + x5 + x7, x0 + x2 + x4 + x6 )
    const __m128 sumDual = _mm_add_ps(loDual, hiDual);
    // lo = ( -, -, -, x0 + x2 + x4 + x6 )
    const __m128 lo = sumDual;
    // hi = ( -, -, -, x1 + x3 + x5 + x7 )
    const __m128 hi = _mm_shuffle_ps(sumDual, sumDual, 0x1);
    // sum = ( -, -, -, x0 + x1 + x2 + x3 + x4 + x5 + x6 + x7 )
    const __m128 sum = _mm_add_ss(lo, hi);
    return _mm_cvtss_f32(sum);
}

haddps在任何 CPU 上都没有效率；您能做的最好的事情是一次洗牌（提取高半部分）和一次添加，重复直到剩下一个元素。缩小到 128 位作为第一步使 AMD 在 Zen2 之前受益，并且在任何地方都不是坏事。

有关效率的更多详细信息，请参阅在 x86 上进行水平 SSE 向量求和的最快方法。

Answer 2

这可以通过以下代码完成：

ymm2 = _mm256_permute2f128_ps(ymm , ymm , 1);
ymm = _mm256_add_ps(ymm, ymm2);
ymm = _mm256_hadd_ps(ymm, ymm);
ymm = _mm256_hadd_ps(ymm, ymm);

但可能有更好的解决方案。