1

之前,我问了一个关于使用 PGI 创建静态库并将其链接到使用 gcc 构建的程序的问题:c - Linking a PGI OpenACC-enabled library with gcc

现在,我有同样的问题,但动态。当我的库是使用 PGI动态构建的时,如何使用 gcc 构建程序?

而且,考虑到以下事实:

  • 我也希望他们都能够识别相同的 OpenMP 编译指示和例程。例如,当我在库中使用 OpenMP 临界区时,整个程序应该在该部分进行序列化。

  • OpenACC pragma 用于使用 PGI 构建的库中。

  • 在我的应用程序中完全动态加载库。我的意思是dlopen用来打开库和dlsym查找函数。

  • 我还希望我的线程能够同时访问 GPU 进行数据传输和/或计算。有关更多详细信息,请参阅以下代码片段。

例如,构建以下库和主代码会发出此错误:call to cuMemcpyHtoDAsync returned error 1: Invalid value


注意:在构建以下代码时,我有意使用 LibGOMP ( -lgomp) 而不是 PGI 的 OpenMP 库 ( -lpgmp) 用于 lib 和 main 两种情况。


库代码:

#include <stdio.h>
#include <stdlib.h>
#include <openacc.h>
#include <omp.h>

double calculate_sum(int n, double *a) {
    double sum = 0;
    int i;

    #pragma omp critical
    {
        printf("Num devices: %d\n", acc_get_num_devices(acc_device_nvidia));

        #pragma acc enter data copyin(a[0:n])

        #pragma acc parallel 
        #pragma acc loop
        for(i=0;i<n;i++) {
            sum += a[i];
        }

        #pragma acc exit data delete(a[0:n])
    }

    return sum;
}


int ret_num_dev(int index) {
    int dev = acc_get_num_devices(acc_device_nvidia);
    if(dev == acc_device_nvidia)
        printf("Num devices: %d - Current device: %d\n", dev, acc_get_device());
    return dev;
}

使用以下命令构建库:

pgcc -acc -ta=nvidia:nordc -fPIC -c libmyacc.c

pgcc -shared -Wl,-soname,libctest.so.1 -o libmyacc.so -L/opt/pgi/linux86-64/16.5/lib -L/usr/lib64 -L/usr/lib/gcc/x86_64-redhat-linux/4.8.5 -laccapi -laccg -laccn -laccg2 -ldl -lcudadevice -lgomp -lnuma -lpthread -lnspgc -lpgc -lm -lgcc -lc -lgcc libmyacc.o


主要代码:

#include <stdio.h>
#include <stdlib.h>
#include <omp.h>
#include <dlfcn.h>


#define N 1000

// to make sure library is loaded just once for whole program
static void *lib_handle = NULL;
static int lib_loaded = 0;
static double (*calculate_sum2)(int , double *);

void call_lib_so() {

    // load library just once and init the function pointer
    // to function in the library.
    if(lib_loaded == 0) {
        lib_loaded = 1;
        char *error;

        lib_handle = dlopen("/home/millad/temp/gcc-pgi/libmyacc.so", RTLD_NOW);
        if (!lib_handle) {
            fprintf(stderr, "%s\n", dlerror());
            exit(1);
        }

        calculate_sum2 = (double (*)(int , double *)) dlsym(lib_handle, "calculate_sum");
        if ((error = dlerror()) != NULL)  {
            fprintf(stderr, "%s\n", error);
            exit(1);
        }
    }


    // execute the function per call
    int n = N, i;
    double *a = (double *) malloc(sizeof(double) * n);
    for(i=0;i<n;i++)
        a[i] = 1.0 * i;
    double sum = (*calculate_sum2)(n, a);
    free(a);
    printf("-------- SUM: %.3f\n", sum);



//  dlclose(lib_handle);
}


extern double calculate_sum(int n, double *a);

int main() {

    // allocation and initialization of an array
    double *a = (double*) malloc(sizeof(double) * N);
    int i;
    for(i=0;i<N;i++) {
        a[i] = (i+1) * 1.0;
    }

    // access and run OpenACC region with all threads
    #pragma omp parallel
    call_lib_so();

    return 0;
}

并使用我之前的问题中 Mat 描述的 gcc 使用以下命令构建我的主代码:

gcc f1.c -L/opt/pgi/linux86-64/16.5/lib -L/usr/lib64 -L/usr/lib/gcc/x86_64-redhat-linux/4.8.5 -L. -laccapi -laccg -laccn -laccg2 -ldl -lcudadevice -lgomp -lnuma -lpthread -lnspgc -lpgc -lm -lgcc -lc -lgcc -lmyacc


难道我做错了什么?以上步骤正确吗?

4

1 回答 1

1

您的代码对我来说可以正常工作。我尝试使用您列出的内容,但需要删除“libctest.so”,更改 dlopen 获取 so 的位置,并在 gcc 编译行添加“-DN=1024”。之后,它编译并运行良好。

% pgcc -acc -ta=nvidia:nordc -fPIC -c libmyacc.c -V16.5                            
% pgcc -shared -o libmyacc.so -L/opt/pgi/linux86-64/16.5/lib -L/usr/lib64 -L/usr/lib/gcc/x86_64-redhat-linux/4.8.5 -laccapi -laccg -laccn -laccg2 -ldl -lcudadevice -lgomp -lnuma -lpthread -lnspgc -lpgc -lm -lgcc -lc -lgcc libmyacc.o -V16.5
% gcc f1.c -L/proj/pgi/linux86-64/16.5/lib -L/usr/lib64 -L/usr/lib/gcc/x86_64-redhat-linux/4.8.5 -L. -laccapi -laccg -laccn -laccg2 -ldl -lcudadevice -lgomp -lnuma -lpthread -lnspgc -lpgc -lm -lgcc -lc -lgcc -lmyacc -DN=1024
% ./a.out
Num devices: 8
-------- SUM: 523776.000
于 2016-07-07T20:36:44.563 回答