1

PyCUDA帮助说明了如何创建一个空数组或归零数组，但没有说明如何将现有的 numpy 数组移动（？）到页面锁定的内存中。我是否需要获取 numpy 数组的指针并将其传递给pycuda.driver.PagelockedHostAllocation？我该怎么做？

更新

<--狙击-->

更新 2

谢谢你的帮助。现在内存传输是页面锁定的，但程序以以下错误结束：

PyCUDA WARNING: a clean-up operation failed (dead context maybe?)
cuMemFreeHost failed: invalid context

这是更新的代码：

#!/usr/bin/env python
# -*- coding: utf-8 -*-


import numpy as np
import ctypes
from pycuda import driver, compiler, gpuarray
from pycuda.tools import PageLockedMemoryPool
import pycuda.autoinit

memorypool = PageLockedMemoryPool()

indata = np.random.randn(5).astype(np.float32)
outdata = gpuarray.zeros(5, dtype=np.float32)

pinnedinput = memorypool.allocate(indata.shape,np.float32)

source = indata.ctypes.data_as(ctypes.POINTER(ctypes.c_float))
dest = pinnedinput.ctypes.data_as(ctypes.POINTER(ctypes.c_float))
sz = indata.size * ctypes.sizeof(ctypes.c_float)
ctypes.memmove(dest,source,sz)


kernel_code = """
 __global__ void kernel(float *indata, float *outdata) {
 int globalid = blockIdx.x * blockDim.x + threadIdx.x ;
 outdata[globalid] = indata[globalid]+1.0f;

 }
 """

mod = compiler.SourceModule(kernel_code)
kernel = mod.get_function("kernel")

kernel(
 driver.In(pinnedinput), outdata,
 grid = (5,1),
 block = (1, 1, 1),
)
print indata
print outdata.get()
memorypool.free_held()
4

3 回答 3

3

您需要将数据从源数组复制到保存从 pycuda 返回的页面锁定分配的数组。最直接的方法是通过ctypes：

import numpy
import ctypes

x=numpy.array([1,2,3,4],dtype=numpy.double)
y=numpy.zeros_like(x)

source = x.ctypes.data_as(ctypes.POINTER(ctypes.c_double))
dest = y.ctypes.data_as(ctypes.POINTER(ctypes.c_double))
sz = x.size * ctypes.sizeof(ctypes.c_double)

ctypes.memmove(dest,source,sz)

print y

该numpy.ctypes接口可用于获取指向用于保存数组数据的内存的指针，然后ctypes.memmove用于在两个不同的 ndarray 之间进行复制。使用裸 C 指针的所有常见警告都适用，因此需要注意，但使用起来很简单。

于 2011-10-09T18:06:21.627 回答
1

内存块仍处于活动状态。您可以显式释放固定数组：

print memorypool.active_blocks
pinnedinput.base.free()
print memorypool.active_blocks
memorypool.free_held()
于 2015-05-04T19:28:21.213 回答
0

我一直在以一种更简单的方式做到这一点：

locked_ary = cuda.pagelocked_empty_like(ary, mem_flags=cuda.host_alloc_flags.DEVICEMAP)
locked_ary[:] = ary

结果具有正确的AlignedHostAllocation基础，并且时间与我使用ctypes.memmove.

于 2018-09-11T22:06:59.887 回答