9

我有一个包含两个进程的应用程序,一个在 C 中,一个在 Python 中。C 进程是完成所有繁重工作的地方,而 Python 进程处理用户界面。

C 程序每秒向一个大缓冲区写入 4 次,而 Python 进程读取此数据。至此,与 Python 进程的通信已由 AMQP 完成。我宁愿在两个进程之间设置一些内存共享,以减少开销并提高性能。

我在这里有什么选择?理想情况下,我会简单地让 Python 进程直接读取物理内存(最好从内存而不是磁盘),然后使用信号量或类似的东西处理竞争条件。然而,这是我几乎没有经验的事情,所以我会很感激我能得到的任何帮助。

我正在使用Linux顺便说一句。

4

3 回答 3

8

这个问题被问了很久。我相信提问者已经有了答案,所以我为后来的人写了这个答案。

/*C code*/

#include <stdio.h>
#include <string.h>
#include <errno.h>
#include <sys/ipc.h>
#include <sys/shm.h>

#define GETEKYDIR ("/tmp")
#define PROJECTID  (2333)
#define SHMSIZE (1024)

void err_exit(char *buf) {
    fprintf(stderr, "%s\n", buf);
    exit(1);
}


    int
main(int argc, char **argv)
{

    key_t key = ftok(GETEKYDIR, PROJECTID);
    if ( key < 0 )
        err_exit("ftok error");

    int shmid;
    shmid = shmget(key, SHMSIZE, IPC_CREAT | IPC_EXCL | 0664);
    if ( shmid == -1 ) {
        if ( errno == EEXIST ) {
            printf("shared memeory already exist\n");
            shmid = shmget(key ,0, 0);
            printf("reference shmid = %d\n", shmid);
        } else {
            perror("errno");
            err_exit("shmget error");
        }
    }

    char *addr;

    /* Do not to specific the address to attach
     * and attach for read & write*/
    if ( (addr = shmat(shmid, 0, 0) ) == (void*)-1) {
        if (shmctl(shmid, IPC_RMID, NULL) == -1)
            err_exit("shmctl error");
        else {
            printf("Attach shared memory failed\n");
            printf("remove shared memory identifier successful\n");
        }

        err_exit("shmat error");
    }

    strcpy( addr, "Shared memory test\n" );

    printf("Enter to exit");
    getchar();

    if ( shmdt(addr) < 0) 
        err_exit("shmdt error");

    if (shmctl(shmid, IPC_RMID, NULL) == -1)
        err_exit("shmctl error");
    else {
        printf("Finally\n");
        printf("remove shared memory identifier successful\n");
    }

    return 0;
}
#python 

# Install sysv_ipc module firstly if you don't have this
import sysv_ipc as ipc

def main():
    path = "/tmp"
    key = ipc.ftok(path, 2333)
    shm = ipc.SharedMemory(key, 0, 0)

    #I found if we do not attach ourselves
    #it will attach as ReadOnly.
    shm.attach(0,0)  
    buf = shm.read(19)
    print(buf)
    shm.detach()
    pass

if __name__ == '__main__':
    main()

C程序需要首先执行,不要在python代码执行之前停止它,它会创建共享内存段并向其中写入一些东西。然后 Python 代码附加相同的段并从中读取数据。

完成所有事情后,按回车键停止C程序并删除共享内存ID。

我们可以在这里看到更多关于 Python 的 SharedMemory:http: //semanchuk.com/philip/sysv_ipc/#shared_memory

于 2019-07-12T16:30:02.787 回答
2

建议 #1: 最简单的方法应该是使用 TCP。您提到您的数据量很大。除非您的数据量太大,否则使用 TCP 应该没问题。确保在 C 和 Python 中创建单独的线程以通过 TCP 传输/接收数据。

建议 #2: Python 支持 C 上的包装器。一种流行的包装器是 ctypes - http://docs.python.org/2/library/ctypes.html

假设您通过共享内存熟悉两个 C 程序之间的 IPC,您可以为您的 python 程序编写一个 C 包装器,该程序从共享内存中读取数据。

还要检查以下关于 python 和 C++ 之间 IPC 的讨论: Simple IPC between C++ and Python (cross platform)

于 2013-04-26T08:45:36.997 回答
0

如何将举重代码编写为 C 中的库,然后提供 Python 模块作为包装器?这实际上是一种非常常用的方法,特别是它允许在 Python 中进行原型设计和分析,然后将性能关键部分移至 C。

如果您真的有理由需要两个进程,那么 Python 中有一个 XMLRPC 包应该可以促进此类 IPC 任务。无论如何,使用现有的框架而不是发明自己的 IPC,除非你能真正证明性能需要它。

于 2013-04-20T14:12:29.330 回答