2

基于我之前的问题的这个答案,我想制作内存视图数组。

问题 1

构建具有固定长度的 2D 内存视图数组,例如

mv1 = memoryview(b'1234')
mv2 = memoryview(b'abcd')
cdef const unsigned char[:,:] tmv = (mv1, mv2)

有了这个,我得到:

TypeError: a bytes-like object is required, not 'tuple'

我尝试使用 C 指针数组:

ctypedef const unsigned char[:] k_t
cdef unsigned char* mva[2]
mv1 = memoryview(b'1234')
mv2 = memoryview(b'abcd')
cdef k_t mvk1 = mv1
cdef k_t mvk2 = mv2
mva = (&mvk1, &mvk2)

但这也不起作用:

Cannot take address of memoryview slice

问题 2

构建一个任意长的 3D 数组,基本上是上述 2D 数组对象的列表。This other answer to a similar question and the Cython docs on allocating memory让我更接近了(我相信我应该使用malloc和指针,如果没有必要我不想引入C++)但我仍然遇到问题#1。欢迎任何建议!


编辑(问题#1):即使在混合中抛出一个 Cython 数组也会给我同样的错误:

from cython cimport view
mv1 = memoryview(b'1234')
mv2 = memoryview(b'abcd')
cvarr = view.array(shape=(2,1), itemsize=sizeof(char), format='B')
cvarr = (mv1, mv2)
print(cvarr[0][1])
# So far so good... this prints `50` as expected.
cdef const unsigned char[:,:] cvw = cvarr
# Adding this last line throws `a bytes-like object is required, not 'tuple'`

现在我真的很困惑。为什么元组对 Cython 数组有好处,但对 memview 没有好处?

4

2 回答 2

1

注意:甚至还没有接近完整的解决方案(至少目前如此!)

我同意@DavidW 的观点,如果一个连续的 cython 类型的 memoryview 拥有所有数据并且数据从你的 python memoryviews 复制到其中,它可能会更好。如果您计划只创建一次巨大的 cython 类型的内存视图,但计划对其进行多次迭代,则尤其如此。

但是,您可以PyMemoryView_GET_BUFFER通过使用获取属于该 memoryview 的底层缓冲区来获取指向 python memoryview 内容的指针。然后,您可以memcpy将数据放入更大的数据结构(以便更快地复制),或者只跟踪指针数组,每个元素都指向 memoryview 的数据(在迭代过程中速度较慢,因为您会在内存中跳跃从 memoryview 缓冲区指针到 memoryview 缓冲区指针)。

这是一种获取指向 python memoryview 对象的基础数据的指针的方法。从 cython github的cpython 文件夹中,没有提到PyMemoryView,所以我不得不手动包装它:

from cpython.object cimport PyObject

cdef extern from "Python.h":
     Py_buffer* PyMemoryView_GET_BUFFER(PyObject *mview)

cdef object mv1 = memoryview(b'1234')
cdef Py_buffer* buf = PyMemoryView_GET_BUFFER(<PyObject*>mv1)
cdef char* buf_ptr = <char*>buf.buf
print(buf_ptr)#prints b'1234'

更新 1:

不是 100% 确定 3D 数组结构应该是什么样子,所以我只是以 2D 为例。既然你说你不想引入 C++,我创建了这个array_t数据类型,它的行为就像一个向量(嗯,一个指向一堆的指针void*)。很多丑陋的样板,但在这里:

from cpython.object cimport PyObject
from libc.stdlib cimport malloc, calloc, realloc, free
from libc.string cimport memcpy, memmove

cdef extern from "Python.h":
    Py_buffer* PyMemoryView_GET_BUFFER(PyObject *mview)

cdef char* get_view_ptr(object view):
    cdef Py_buffer* py_buf = PyMemoryView_GET_BUFFER(<PyObject*>view)
    cdef char* ptr = <char*>py_buf.buf
    return ptr

ctypedef struct array_t:
    void** data
    int max_items
    int num_items

cdef void array_init(array_t* array):
    array.data = NULL
    array.max_items = 0
    array.num_items = 0

cdef void array_add(array_t* array, void* item):
    if array.max_items == 0:
        array.max_items = 10
        array.num_items = 0
        array.data = <void**>calloc(array.max_items, sizeof(void*))
    if array.max_items == array.num_items:
        array.max_items *= 2
        array.data = <void**>realloc(array.data, array.max_items * sizeof(void*))
    array.data[array.num_items] = item
    array.num_items += 1

cdef void array_set(array_t* array, int index, void *item):
    if index < 0 or index >= array.max_items:
        return
    array.data[index] = item

cdef void* array_get(array_t* array, int index):
    if index < 0 or index >= array.max_items:
        return NULL
    return array.data[index]

cdef void array_remove(array_t* array, int index):
    cdef:
        void* src
        void* dest
    if index < 0 or index >= array.max_items:
        return
    array.data[index] = NULL
    if index+1 != array.max_items:
        src = &array.data[index+1]
        dest = &array.data[index]
        memmove(dest, src, (array.max_items - index) * sizeof(void*))
    array.num_items -= 1

cdef void array_free(array_t* array):
    free(array.data)

cdef int i
cdef array_t a
cdef object mv1 = memoryview(b'12345')
cdef object mv2 = memoryview(b'67890')
cdef object mv3 = memoryview(b'abcde')
cdef object mv4 = memoryview(b'!@#$%')

array_init(&a)
array_add(&a, get_view_ptr(mv1))
array_add(&a, get_view_ptr(mv2))
array_add(&a, get_view_ptr(mv3))
array_add(&a, get_view_ptr(mv4))

for i in range(a.num_items):
    print(i, <char*>array_get(&a, i))
于 2018-05-21T13:40:51.607 回答
0

这似乎解决了问题 #1:

mv1 = memoryview(b'1234')
mv2 = memoryview(b'abcd')
cdef unsigned char mva[2][4]
mva  = (mv1, mv2)
cdef const unsigned char[:,:] cvw = mva

但是它在第 4 行发出两个警告

Obtaining 'unsigned char [4]' from externally modifiable global Python value

我想我可以忽略这些警告,因为我实际上使用cvw的是常量。

于 2018-05-21T03:19:52.727 回答