45

并行编程==多线程编程?

4

3 回答 3

33

多线程编程是并行的,但并行编程不一定是多线程的。

除非多线程发生在单个核心上,在这种情况下它只是并发的。

于 2010-02-18T11:48:30.957 回答
28

不一定。_ 您可以在多个进程甚至多台机器之间分配作业——我不会将其归类为“多线程”编程,因为每个进程可能只使用一个线程,但它肯定是并行编程。诚然,您可能会争辩说,对于多个进程,整个系统中有多个线程......

最终,像这样的定义只在上下文中有用。在您的特定情况下,它会有什么不同?或者这只是出于兴趣?

于 2010-02-18T10:05:21.633 回答
26

不,多线程编程意味着你有一个进程,而这个进程会生成一堆线程。所有线程同时运行,但它们都在同一个进程空间下:它们可以访问相同的内存,具有相同的打开文件描述符,等等。

作为定义,并行编程更“通用”。在 MPI 中,您通过多次运行同一个进程来执行并行编程,不同之处在于每个进程都有一个不同的“标识符”,因此如果您愿意,您可以区分每个进程,但这不是必需的。此外,这些进程彼此独立,它们必须通过管道或网络/unix 套接字进行通信。MPI 库提供了特定的函数来以同步或异步方式在节点之间来回移动数据。

相比之下,OpenMP 通过多线程和共享内存实现并行化。您为编译器指定特殊指令,它会自动为您执行并行执行。

OpenMP 的优点是它非常透明。有一个循环并行化?只需添加几个指令,编译器将其分块,并将循环的每个部分分配给不同的处理器。不幸的是,您需要一个共享内存架构。具有基于节点架构的集群无法在集群级别使用 OpenMP。MPI 允许您在基于节点的架构上工作,但您必须为更复杂且不透明的使用付出代价。

于 2010-02-18T10:06:54.187 回答