2

我正在 CUDA 中执行一些数组操作/计算（通过Cudafy.NET 库，尽管我对 CUDA/C++ 方法同样感兴趣），并且需要计算数组中的最小值和最大值。其中一个内核如下所示：

    [Cudafy]
    public static void UpdateEz(GThread thread, float time, float ca, float cb, float[,] hx, float[,] hy, float[,] ez)
    {
        var i = thread.blockIdx.x;
        var j = thread.blockIdx.y;

        if (i > 0 && i < ez.GetLength(0) - 1 && j > 0 && j < ez.GetLength(1) - 1)
            ez[i, j] =
                ca * ez[i, j]
                + cb * (hx[i, j] - hx[i - 1, j])
                + cb * (hy[i, j - 1] - hy[i, j])
                ;
    }

我想做这样的事情：

    [Cudafy]
    public static void UpdateEz(GThread thread, float time, float ca, float cb, float[,] hx, float[,] hy, float[,] ez, out float min, out float max)
    {
        var i = thread.blockIdx.x;
        var j = thread.blockIdx.y;

        min = float.MaxValue;
        max = float.MinValue;

        if (i > 0 && i < ez.GetLength(0) - 1 && j > 0 && j < ez.GetLength(1) - 1)
        {
            ez[i, j] =
                ca * ez[i, j]
                + cb * (hx[i, j] - hx[i - 1, j])
                + cb * (hy[i, j - 1] - hy[i, j])
                ;

            min = Math.Min(ez[i, j], min);
            max = Math.Max(ez[i, j], max);

        }
    }

任何人都知道返回最小值和最大值的便捷方法（对于整个数组，而不仅仅是每个线程或块）？

4

3 回答 3

2

如果您正在编写电磁波模拟器并且不想重新发明轮子，您可以使用thrust::minmax_element. 下面我将报告一个关于如何使用它的简单示例。请添加您自己的 CUDA 错误检查。

#include <stdio.h>

#include <cuda_runtime_api.h>

#include <thrust\pair.h>
#include <thrust\device_vector.h>
#include <thrust\extrema.h>

int main()
{
    const int N = 5;

    const float h_a[N] = { 3., 21., -2., 4., 5. };

    float *d_a;     cudaMalloc(&d_a, N * sizeof(float));
    cudaMemcpy(d_a, h_a, N * sizeof(float), cudaMemcpyHostToDevice);

    float minel, maxel;
    thrust::pair<thrust::device_ptr<float>, thrust::device_ptr<float>> tuple;
    tuple = thrust::minmax_element(thrust::device_pointer_cast(d_a), thrust::device_pointer_cast(d_a) + N);
    minel = tuple.first[0];
    maxel = tuple.second[0];

    printf("minelement %f - maxelement %f\n", minel, maxel);

    return 0;
}
于 2016-07-25T13:49:36.207 回答
1

您可以使用分而治之的方法开发自己的最小/最大算法。

如果你有可能使用 npp，那么这个函数可能很有用：nppsMinMax_32f。

于 2013-04-02T07:20:03.177 回答
1

根据您对问题的评论，您试图在计算最大值和最小值时找到它们；虽然有可能，但它并不是最有效的。如果您打算这样做，那么您可以与一些全局最小值和全局最大值进行原子比较，缺点是每个线程都将被序列化，这可能是一个重要的瓶颈。

对于通过减少找到数组中的最大值或最小值的更规范的方法，您可以执行以下操作：

#define MAX_NEG ... //some small number

template <typename T, int BLKSZ> __global__
void cu_max_reduce(const T* d_data, const int d_len, T* max_val)
{
    volatile __shared__ T smem[BLKSZ];

    const int tid = threadIdx.x;
    const int bid = blockIdx.x;
        //starting index for each block to begin loading the input data into shared memory
    const int bid_sidx = bid*BLKSZ;

    //load the input data to smem, with padding if needed. each thread handles 2 elements
    #pragma unroll
    for (int i = 0; i < 2; i++)
    {
                //get the index for the thread to load into shared memory
        const int tid_idx = 2*tid + i;
        const int ld_idx = bid_sidx + tid_idx;
        if(ld_idx < (bid+1)*BLKSZ && ld_idx < d_len)
            smem[tid_idx] = d_data[ld_idx];
        else
            smem[tid_idx] = MAX_NEG;

        __syncthreads();
    }

    //run the reduction per-block
    for (unsigned int stride = BLKSZ/2; stride > 0; stride >>= 1)
    {
        if(tid < stride)
        {
            smem[tid] = ((smem[tid] > smem[tid + stride]) ? smem[tid]:smem[tid + stride]);
        }
        __syncthreads();
    }

    //write the per-block result out from shared memory to global memory
    max_val[bid] = smem[0];
}


//assume we have d_data as a device pointer with our data, of length data_len
template <typename T> __host__
T cu_find_max(const T* d_data, const int data_len)
{
    //in your host code, invoke the kernel with something along the lines of:
    const int thread_per_block = 16; 
    const int elem_per_thread = 2;
    const int BLKSZ = elem_per_thread*thread_per_block; //number of elements to process per block
    const int blocks_per_grid = ceil((float)data_len/(BLKSZ));

    dim3 block_dim(thread_per_block, 1, 1);
    dim3 grid_dim(blocks_per_grid, 1, 1);

    T *d_max;
    cudaMalloc((void **)&d_max, sizeof(T)*blocks_per_grid); 

    cu_max_reduce <T, BLKSZ> <<<grid_dim, block_dim>>> (d_data, data_len, d_max);

    //etc....
}

这将找到每个块的最大值。您可以在 1 个块上在其输出上再次运行它（例如，使用 d_max 作为输入数据并使用更新的启动参数）以找到全局最大值 - 如果您的数据集太大，则需要像这样以多遍方式运行它（在这种情况下，超过 2 * 4096 个元素，因为我们让每个线程处理 2 个元素，尽管您可以只为每个线程处理更多元素来增加这一点）。

我应该指出，这不是特别有效（在加载共享内存时，您希望使用更智能的步幅以避免银行冲突），而且我不是 100% 确定它是正确的（它适用于一些小我尝试过的测试用例），但我尝试将其编写为最清晰。另外不要忘记输入一些错误检查代码以确保您的 CUDA 调用成功完成，我将它们留在这里以保持简短（呃）。

我还应该指导您阅读一些更深入的文档；您可以在http://docs.nvidia.com/cuda/cuda-samples/index.html上查看 CUDA 样本减少，尽管它没有进行最小/最大计算，但它是相同的一般概念（并且更有效）。此外，如果您正在寻找简单性，您可能只想使用 Thrust 的函数thrust::max_element和thrust::min_element，以及位于以下位置的文档：thrust.github.com/doc/group__extrema.html

于 2013-04-03T00:34:08.860 回答