5

我正在学习使用 Python 的 Multiprocessing 包来解决令人尴尬的并行问题,因此我编写了串行和并行版本来确定小于或等于自然数n的素数的数量。根据我从博客文章Stack Overflow 问题中读到的内容,我想出了以下代码:

串行

import math
import time

def is_prime(start, end):
    """determine how many primes within given range"""
    numPrime = 0
    for n in range(start, end+1):
        isPrime = True
        for i in range(2, math.floor(math.sqrt(n))+1):
            if n % i == 0:
                isPrime = False
                break
        if isPrime:
            numPrime += 1
    if start == 1:
        numPrime -= 1  # since 1 is not prime
    return numPrime

if __name__ == "__main__":
    natNum = 0
    while natNum < 2:
        natNum = int(input('Enter a natural number greater than 1: '))
    startTime = time.time()
    finalResult = is_prime(1, natNum)
    print('Elapsed time:', time.time()-startTime, 'seconds')
    print('The number of primes <=', natNum, 'is', finalResult)

平行

import math
import multiprocessing as mp
import numpy
import time


def is_prime(vec, output):
    """determine how many primes in vector"""
    numPrime = 0
    for n in vec:
        isPrime = True
        for i in range(2, math.floor(math.sqrt(n))+1):
            if n % i == 0:
                isPrime = False
                break
        if isPrime:
            numPrime += 1
    if vec[0] == 1:
        numPrime -= 1  # since 1 is not prime
    output.put(numPrime)


def chunks(vec, n):
    """evenly divide list into n chunks"""
    for i in range(0, len(vec), n):
        yield vec[i:i+n]

if __name__ == "__main__":
    natNum = 0
    while natNum < 2:
        natNum = int(input('Enter a natural number greater than 1: '))
    numProc = 0
    while numProc < 1:
        numProc = int(input('Enter the number of desired parallel processes: '))
    startTime = time.time()
    numSplits = math.ceil(natNum/numProc)
    splitList = list(chunks(tuple(range(1, natNum+1)), numSplits))
    output = mp.Queue()
    processes = [mp.Process(target=is_prime, args=(splitList[jobID], output))
                 for jobID in range(numProc)]
    for p in processes:
        p.start()
    for p in processes:
        p.join()
    print('Elapsed time:', time.time()-startTime, 'seconds')
    procResults = [output.get() for p in processes]
    finalResult = numpy.sum(numpy.array(procResults))
    print('Results from each process:\n', procResults)
    print('The number of primes <=', natNum, 'is', finalResult)

这是我得到的n = 10000000 (对于并行我请求 8 个进程):

$ python serial_prime_test.py 
Enter a natural number greater than 1: 10000000
Elapsed time: 162.1960825920105 seconds
The number of primes <= 10000000 is 664579
$ python parallel_prime_test.py
Enter a natural number greater than 1: 10000000
Enter the number of desired parallel processes: 8
Elapsed time: 49.41204643249512 seconds
Results from each process:
[96469, 86603, 83645, 80303, 81796, 79445, 78589, 77729]
The number of primes <= 10000000 is 664579

所以看起来我可以获得超过 3 倍的加速。这是我的问题

  1. 显然这不是线性加速,所以我能做得更好(或者我应该实际期望什么样的加速)?
  2. 看起来阿姆达尔定律回答了这个问题,但我不知道如何确定我的程序的哪一部分是严格串行的。

任何帮助表示赞赏。

编辑:有 4 个物理内核,能够进行超线程。

4

2 回答 2

6

我认为你想以不同的方式划分工作。

尽管您的程序将候选整数的范围均匀地划分为内核,但每个范围内的工作不太可能是均匀的。这意味着一些核心提前完成,无事可做,而其他核心仍在运行。那会失去并行效率,

为了说明这一点,假设您有 1000 个内核。第一个核心看到非常小的候选数字并且不需要很长时间来分解它们,然后进入空闲状态。最后一个(千)核心只看到非常大的候选数字,并且需要更长的时间来分解它们。所以它运行,而第一个核心处于空闲状态。浪费的周期。对于 4 核也是如此。

当交给核心的工作量未知时,您想要做的是向所有核心交付大量大小适中的块,比核心数量多得多。然后核心可以以不均匀的速率完成,每个核心都回去寻找更多的工作要做。这本质上是一个工作列表算法。最后你会得到不均匀的结果,但它只是小块,所以不会浪费太多。

我不是 Python 程序员,所以我用 Parlanse 编写了一个解决方案。

(includeunique `Console.par')
(includeunique `Timer.par')

(define upper_limit 10000000)

(define candidates_per_segment 10)
(define candidates_per_segment2 (constant (* candidates_per_segment 2)))

(= [prime_count natural] 0)
[prime_finding_team team]

(define primes_in_segment
(action (procedure [lower natural] [upper natural])
   (;;
      (do [candidate natural] lower upper 2
      (block test_primality
        (local (= [divisor natural] 3)
           (;;
              (while (< (* divisor divisor) candidate)
                  (ifthenelse (== (modulo candidate divisor) 0)
                     (exitblock test_primality)
                     (+= divisor 2)
                  )ifthenelse
              )while
              (ifthen (~= (* divisor divisor) candidate)
                 (consume (atomic+= prime_count))
              )ifthen
           );;
        )local
      )block
      )do
  );;
  )action
)define

(define main
(action (procedure void)
   (local [timer Timer:Timer]
     (;;
     (Console:Put (. `Number of primes found: '))
     (Timer:Reset (. timer))
     (do [i natural] 1 upper_limit candidates_per_segment2
        (consume (draft prime_finding_team primes_in_segment
                     `lower':i
                     `upper':(minimum upper_limit (- (+ i candidates_per_segment2) 2))))
     )do
     (consume (wait (@ (event prime_finding_team))))
     (Timer:Stop (. timer))
     (Console:PutNatural prime_count)
     (Console:PutNewline)
     (Timer:PrintElapsedTime (. timer) (. `Parallel computed in '))
     (Console:PutNewline)
     );;
  )local
)action
)define

Parlanse 看起来像 LISP,但工作和编译更像 C。

工人是primes_in_segment;它采用由其参数lowerupper定义的候选值范围。它尝试该范围内的每个候选者,如果该候选者是素数,则增加(原子地)总prime_count 。

整个范围被main中的 do 循环分成小范围的数据包(奇数序列)。并行性发生在草稿命令上,该命令创建并行执行的计算粒度(不是 Windows 线程)并将其添加到prime_finding_team中,这是代表所有主要因式分解的工作聚合集。(团队的目的是让所有这些工作作为一个单元进行管理,例如,在必要时销毁,在此程序中不需要)。起草的论据是由分叉的grain运行的函数及其参数。这项工作是由一组 Parlanse 管理的 (Windows) 线程使用工作窃取算法完成的。如果工作太多,Parlanse 会限制产生工作的颗粒,并将其能量用于执行纯计算的颗粒。

一个人只能将一个候选值传递给每个颗粒,但是每个候选的分叉开销更大,并且总运行时间相应地变得更糟。我们根据经验选择了10 个,以确保每个候选范围的分叉开销很小;将每个段的候选人设置为 1000 并不会带来太多额外的加速。

do循环只是尽可能快地制造工作。当有足够的并行度有用时,Parlanse 会限制草稿步骤。团队等待事件,导致主程序等待所有团队成员完成。

我们在 HP 六核 AMD Phenom II X6 1090T 3.2 GHz 上运行它。执行运行如下;首先是 1 个 CPU:

 >run -p1 -v ..\teamprimes
PARLANSE RTS: Version 19.1.53
# Processors = 1
Number of primes found: 664579
Parallel computed in 13.443294 seconds
---- PARLANSE RTS: Performance Statistics
  Duration = 13.527557 seconds.
  CPU Time Statistics:
  Kernel CPU Time: 0.031s
  User   CPU Time: 13.432s
  Memory Statistics:
Peak Memory Usage    : 4.02 MBytes
  Steals: 0  Attempts: 0  Success rate: 0.0%  Work Rediscovered: 0
Exiting with final status 0.

然后对于 6 个 CPU(很好地扩展):

>run -p6 -v ..\teamprimes
PARLANSE RTS: Version 19.1.53
# Processors = 6
Number of primes found: 664579
Parallel computed in 2.443123 seconds
---- PARLANSE RTS: Performance Statistics
  Duration = 2.538972 seconds.
  CPU Time Statistics:
Kernel CPU Time: 0.000s
User   CPU Time: 14.102s
Total  CPU Time: 14.102s
  Memory Statistics:
Peak Memory Usage    : 4.28 MBytes
  Steals: 459817  Attempts: 487334  Success rate: 94.4%  Work Rediscovered: 153

您注意到并行版本的总 CPU 时间与串行版本大致相同;这是因为他们在做同样的工作。

鉴于 Python 的“fork”和“join”操作,我确信有一个 Python 等效项可以轻松编写代码。由于可能同时有太多分叉,它可能会用完空间或线程。(candidates_per_segment在 10 时,Parlanse 下运行的活谷物多达 100 万个)。这就是自动限制工作生成的好地方。作为替代,您可以设置candidates_per_segment一个更大的数字,例如 10000,这意味着在最坏的情况下您只能获得 1000 个线程。(由于 Python 的解释性,我认为你仍然会付出高昂的代价)。当您将每个段的候选设置越来越接近 1e7/4 时,您将接近您使用当前 Python 代码所具有的确切行为。

于 2014-10-27T06:08:32.917 回答
1

您不会获得比 CPU 中的内核/线程数更多的并行度。如果您在 4 核机器上获得 3 倍的速度,那就太好了。你只有一点点开销。我建议在 4 核机器上将“并行进程数”设置为 4 以减少开销。现在,如果你在 16 核机器上运行它,只有 3 倍的速度似乎很低。我会查看 Python Multiprocessing 库,特别是它是如何运行其线程(进程?)的。

你的结果是numProc == 4什么?

Amdahl 定律在这里适用,但只有很小一部分并行程序是顺序的(基本上是主要部分),因为工作非常均匀地并行化到整数范围内。

于 2014-10-24T20:39:58.160 回答