4

我正在尝试在 pthread、semaphore.h 和 gcc atomic builtins 之上实现一个由循环缓冲区支持的高性能阻塞队列。队列需要处理来自不同线程的多个同时读取器和写入器。

我已经隔离了某种竞争条件,我不确定这是否是对某些原子操作和信号量行为的错误假设,或者我的设计是否存在根本缺陷。

我已将其提取并简化为以下独立示例。我希望这个程序永远不会返回。然而,它确实会在几十万次迭代后返回,并在队列中检测到损坏。

在下面的示例(用于说明)中,它实际上并没有存储任何内容,它只是将一个保存实际数据的单元格设置为 1,将一个空单元格设置为 0。有一个计数信号量(vacancys)表示空单元格的数量,另一个计数信号量(occupants)表示占用单元格的数量。

编写者执行以下操作:

  1. 减少职位空缺
  2. 原子地获取下一个头索引(mod队列大小)
  3. 写信给它
  4. 增加居住者

读者反其道而行之:

  1. 递减乘员
  2. 原子地获取下一个尾索引(mod 队列大小)
  3. 从中读取
  4. 增加职位空缺

我希望鉴于上述情况,恰好一个线程可以一次读取或写入任何给定的单元格。

任何关于它为什么不起作用或调试策略的想法都值得赞赏。下面的代码和输出...

#include <stdlib.h>
#include <semaphore.h>
#include <iostream>

using namespace std;

#define QUEUE_CAPACITY 8 // must be power of 2
#define NUM_THREADS 2

struct CountingSemaphore
{
    sem_t m;
    CountingSemaphore(unsigned int initial) { sem_init(&m, 0, initial); }
    void post() { sem_post(&m); }
    void wait() { sem_wait(&m); }
    ~CountingSemaphore() { sem_destroy(&m); }
};

struct BlockingQueue
{
    unsigned int head; // (head % capacity) is next head position
    unsigned int tail; // (tail % capacity) is next tail position
    CountingSemaphore vacancies; // how many cells are vacant
    CountingSemaphore occupants; // how many cells are occupied

    int cell[QUEUE_CAPACITY];
// (cell[x] == 1) means occupied
// (cell[x] == 0) means vacant

    BlockingQueue() :
        head(0),
        tail(0),
        vacancies(QUEUE_CAPACITY),
        occupants(0)
    {
        for (size_t i = 0; i < QUEUE_CAPACITY; i++)
            cell[i] = 0;
    }

    // put an item in the queue
    void put()
    {
        vacancies.wait();

        // atomic post increment
        set(__sync_fetch_and_add(&head, 1) % QUEUE_CAPACITY);

        occupants.post();
    }

    // take an item from the queue
    void take()
    {
        occupants.wait();

        // atomic post increment
        get(__sync_fetch_and_add(&tail, 1) % QUEUE_CAPACITY);

        vacancies.post();
    }

    // set cell i
    void set(unsigned int i)
    {
        // atomic compare and assign
        if (!__sync_bool_compare_and_swap(&cell[i], 0, 1))
        {
            corrupt("set", i);
            exit(-1);
        }
    }

    // get cell i
    void get(unsigned int i)
    {
        // atomic compare and assign
        if (!__sync_bool_compare_and_swap(&cell[i], 1, 0))
        {
            corrupt("get", i);
            exit(-1);
        }
    }

    // corruption detected
    void corrupt(const char* action, unsigned int i)
    {
        static CountingSemaphore sem(1);
        sem.wait();

        cerr << "corruption detected" << endl;
        cerr << "action = " << action << endl;
        cerr << "i = " << i << endl;
        cerr << "head = " << head << endl;
        cerr << "tail = " << tail << endl;

        for (unsigned int j = 0; j < QUEUE_CAPACITY; j++)
            cerr << "cell[" << j << "] = " << cell[j] << endl;
    }
};

BlockingQueue q;

// keep posting to the queue forever
void* Source(void*)
{
    while (true)
        q.put();

    return 0;
}

// keep taking from the queue forever
void* Sink(void*)
{
    while (true)
        q.take();

    return 0;
} 

int main()
{
    pthread_t id;

    // start some pthreads to run Source function
    for (int i = 0; i < NUM_THREADS; i++)
        if (pthread_create(&id, NULL, &Source, 0))
            abort();

    // start some pthreads to run Sink function
    for (int i = 0; i < NUM_THREADS; i++)
        if (pthread_create(&id, NULL, &Sink, 0))
            abort();

    while (true);
}

编译上面的代码如下:

    $ g++ -pthread AboveCode.cpp
    $ ./a.out

每次输出都不同,但这里有一个示例:

    corruption detected
    action = get
    i = 6
    head = 122685
    tail = 122685
    cell[0] = 0
    cell[1] = 0
    cell[2] = 1
    cell[3] = 0
    cell[4] = 1
    cell[5] = 0
    cell[6] = 1
    cell[7] = 1

我的系统是 Intel Core 2 上的 Ubuntu 11.10:

    $ uname -a
    Linux 3.0.0-14-generic #23-Ubuntu SMP \
      Mon Nov 21 20:28:43 UTC 2011 x86_64 x86_64 x86_64 GNU/Linux
    $ cat /proc/cpuinfo | grep Intel
    model name : Intel(R) Core(TM)2 Quad  CPU   Q9300  @ 2.50GHz
    $ g++ --version
    g++ (Ubuntu/Linaro 4.6.1-9ubuntu3) 4.6.1

谢谢,安德鲁。

4

3 回答 3

4

一种可能的情况,逐步跟踪两个写入线程(W0,W1)和一个读取线程(R0)。W0 比 W1 更早进入 put(),被操作系统或硬件中断并稍后完成。

        w0 (core 0)               w1 (core 1)                r0
t0         ----                      ---       blocked on occupants.wait() / take
t1      entered put()                ---                    ---         
t2      vacancies.wait()           entered put()            ---
t3      got new_head = 1           vacancies.wait()         ---
t4     <interrupted by OS>         got new_head = 2         ---
t5                                 written 1 at cell[2]     ---
t6                                 occupants.post();        ---
t7                                 exited put()            waked up
t8                                   ---               got new_tail = 1
t9     <still in interrupt>          ---    read 0 from ceil[1]  !! corruption !!
t10     written 1 at cell[1]                           
t11     occupants.post();
t12     exited put()
于 2012-01-05T12:14:10.353 回答
1

从设计的角度来看,我会将整个队列视为共享资源,并使用单个互斥锁来保护它。

编写者执行以下操作:

  1. 取互斥体
  2. 写入队列(包括处理索引)
  3. 释放互斥锁

读者执行以下操作:

  1. 取互斥体
  2. 从队列中读取(包括处理索引)
  3. 释放互斥锁
于 2012-01-05T09:15:37.827 回答
0

我有一个理论。这是一个循环队列,因此一个读取线程可能会被占用。假设读者获取索引 0。在它做任何事情之前它会失去 CPU。另一个读取器线程获取索引 1,然后是 2,然后是 3……然后是 7,然后是 0。第一个读取器醒来,两个线程都认为他们对索引 0 具有独占访问权。不知道如何证明这一点。希望有帮助。

于 2012-01-05T08:21:53.430 回答