2

我正在使用 SIMD 加载指令从内存中加载元素，假设使用 Altivec，假设地址对齐：

float X[SIZE];
vector float V0;
unsigned FLOAT_VEC_SIZE = sizeof(vector float);
for (int load_index =0; load_index < SIZE; load_index+=FLOAT_VEC_SIZE)
{
    V0 = vec_ld(load_index, X);
    /* some computation involving V0*/
}

现在如果 SIZE 不是 FLOAT_VEC_SIZE 的倍数，那么 V0 可能在最后一次循环迭代中包含一些无效的内存元素。避免这种情况的一种方法是通过一次迭代减少循环，另一种方法是屏蔽潜在的无效元素，这里还有其他有用的技巧吗？考虑到上述内容是一组嵌套循环的最内层。因此，任何额外的非 SIMD 指令都会带来性能损失！

4

2 回答 2

2

理想情况下，您应该将数组填充到 4 个元素的倍数vec_step(vector float)（即 4 个元素的倍数），然后从 SIMD 处理中屏蔽掉任何其他不需要的值，或者使用标量代码来处理最后几个元素，例如

const INT VF_ELEMS = vec_step(vector float);
const int VEC_SIZE = (SIZE + VF_ELEMS - 1) / VF_ELEMS; // number of vectors in X, rounded up
vector float VX[VEC_SIZE];   // padded array with 16 byte alignment
float *X = = (float *)VX;    // float * pointer to base of array

for (int i = 0; i <= SIZE - VF_ELEMS; i += VF_ELEMS)
{                            // for each full SIMD vector
    V0 = vec_ld(0, &X[i]);
    /* some computation involving V0 */
}
if (i < SIZE)                // if we have a partial vector at the end
{
#if 1                        // either use SIMD and mask out the unwanted values
    V0 = vec_ld(0, &X[i]);
    /* some SIMD computation involving partial V0 */
#else                        // or use a scalar loop for the remaining 1..3 elements
    /* small scalar loop to handle remaining points */
#endif
}
于 2012-10-23T11:55:37.990 回答
0

有时零填充不是一个选项，就像 const 数组一样。另一方面，添加标量代码会导致向量和标量结果相互混合，例如在写回计算结果时；屏蔽不需要的值似乎是一个更好的解决方案。请注意，这假定地址为 16 字节对齐。玩具示例，清除 SIMD 向量的最后三个元素

vector bool int V_MASK = (vector bool int) {0,0,0,0};
unsigned int all_ones = 0xFFFFFFFFFFFFFFFF;
unsigned int * ptr_mask = (unsigned int *) &V_MASK;
ptr_mask[0]= all_ones;
vector float XV = vec_ld(0,some_float_ptr);
XV = vec_and(XV,V_MASK);
于 2012-10-24T15:36:50.057 回答