c++ - 如何在模板函数中使用 CUBLAS 库？

Question

CUBLAS 对每种类型的数据都有一个单独的函数，但我想从模板中调用 CUBLAS，例如：

template <typename T> foo(...) {
    ...
    cublas<S/D/C/Z>geam(..., const T* A, ...);
    ...
}

如何触发正确的函数调用？

Answer 1

我为具有相同函数名称的不同类型编写了 cublas 包装函数。

inline cublasStatus_t cublasGgeam(cublasHandle_t handle,
        cublasOperation_t transa, cublasOperation_t transb,
        int m, int n,
        const float *alpha,
        const float *A, int lda,
        const float *beta,
        const float *B, int ldb,
        float *C, int ldc)
{
    return cublasSgeam(handle, transa, transb, m, n, alpha, A, lda, beta, B, ldb, C, ldc);
}

inline cublasStatus_t cublasGgeam(cublasHandle_t handle,
        cublasOperation_t transa, cublasOperation_t transb,
        int m, int n,
        const double *alpha,
        const double *A, int lda,
        const double *beta,
        const double *B, int ldb,
        double *C, int ldc)
{
    return cublasDgeam(handle, transa, transb, m, n, alpha, A, lda, beta, B, ldb, C, ldc);
}

之后，您可以为具有相同函数名称的任何类型调用geam()。C++ 编译器会根据参数的类型选择正确的函数。在你的情况下，它应该像

template <typename T> foo(...) {
    ...
    cublasGgeam(..., A, ...);
    ...
}

这是一个完整的重载，根本没有运行时成本，尽管您必须为包装函数编写一个长列表。