0

我在主机 openMP 代码中使用英特尔的卸载编译指示。代码如下

int s1 = f(a,b,c);

#prama offload singnal(s1) in (...) out(x:len)
{
    for (int i = 0; i < len; ++i)
    {
        x[i] = ...
    }   
}

#pragma omp parallel default(shared)
{
    #pragma omp for schedule(dynamic) nowait
    for (int i = 0; i < count; ++i)
    {
        /* code */
    }

    #pragma omp for schedule(dynamic) 
    for (int j = 0; j < count2; ++j)
    {
        /* code */
    }
}

#pragma offload wait(s1)
{
    /* code */
}

将 $x$ 的代码卸载计算到 MIC。代码通过将一些 openMP 分配给 CPU 内核来保持忙碌。上面的代码按预期工作。但是,第一次卸载 pragma 需要花费大量时间,并且已成为瓶颈。尽管如此,总体而言,将 $x$ 的计算卸载到 MIC 是值得的。我正在尝试解决此延迟问题的一种方法如下

int s1 = f(a,b,c);

#pragma omp parallel default(shared)
{
    #pragma omp single nowait
    {
        #prama offload singnal(s1) in (...) out(x:len)
        {
            for (int i = 0; i < len; ++i)
            {
                x[i] = ...
            }   
        }

    }

    #pragma omp for schedule(dynamic) nowait
    for (int i = 0; i < count; ++i)
    {
        /* code */
    }

    #pragma omp for schedule(dynamic) 
    for (int j = 0; j < count2; ++j)
    {
        /* code */
    }
}

#pragma offload wait(s1)
{
    /* code */
}

所以这个新代码分配了一个线程来进行卸载,而其他 openmp 线程可以用于其他工作共享结构。但是,此代码不起作用。我收到以下错误消息

device 1 does not have a pending signal for wait(0x1)

卸载报告指出,上述代码是罪魁祸首。一种临时解决方法是使用常量作为信号,即信号(0),它可以工作。但是,我需要一个更永久的解决方案。任何人都可以对我的代码中出了什么问题有所了解。

谢谢

4

2 回答 2

1

让我补充一下泰勒的回答。

由于初始化工作正在进行,第一次卸载确实比后续卸载需要更多时间。泰勒勾勒了那里发生的一些事情。您可以通过使用环境变量 OFFLOAD_INIT=on_start 来避免虚拟卸载。这应该让运行时系统提前完成所有初始化。这样做的开销不会消失,但它会从您的第一次卸载转移到应用程序初始化。

您的第二个代码片段的问题似乎是您的卸载针对不同的设备。仅当信号和等待发生在同一目标设备上时,信号和等待才有效。由于您没有target(mic:0)在卸载时明确使用该子句,因此运行时系统选择不同目标设备的可能性很高。

我想提出的一项建议是不要使用纯整数作为信号。通常,该信号表示某个缓冲区已准备就绪。在这些情况下,最好使用缓冲区指针作为信号句柄,因为它对于使用不同缓冲区的并发卸载来说是唯一的。

干杯,-迈克尔

于 2014-04-25T07:47:32.620 回答
0

我无法评论第二个代码块。我对第一个有一些看法。

第一次卸载总是需要更长的时间,因为它还设置了卸载基础设施。该结构包括诸如传递环境变量、复制 libomp5 的 mic 实现、设置线程池等内容。

避免这种情况的方法是首先设置一个虚拟卸载,这意味着它实际上并没有做任何事情并且不是您的计算块的一部分。

在 software.intel.com/mic-developer 的培训选项卡下有一组关于优化至强 phi 协处理器的优秀参考资料。

另请查看 software.intel.com/en-us/articles/programming-and-compiling-for-intel-many-integrated-core-architecture、software.intel.com/en-us/articles/optimization-and -performance-tuning-for-intel-xeon-phi-coprocessors-part-1-optimization 和 software.intel.com/en-us/articles/optimization-and-performance-tuning-for-intel-xeon-phi-协处理器第 1 部分优化。

很抱歉,URL 很长,但由于我是新手,stackoverflow 不允许我包含两个以上的链接。

于 2014-04-24T20:38:49.230 回答