11

我有一个“主要”功能,每个时间步执行许多小的独立任务。但是,在每个时间步之后,我必须等待所有任务完成才能继续前进。

我想让程序多线程。我已经尝试过使用 boost-offshoot 线程池的实现,我尝试过使用(共享指针)线程的向量,我已经尝试过 asio 线程池的想法(使用 io_service,建立一些工作,然后将运行分发到线程和向 io_service 发布处理程序)。

所有这些似乎都有很多开销为我的“许多小任务”创建和销毁线程,我想要一种方法,最好使用 asio 工具,实例化一个 io_service,一个 thread_group,将处理程序发布到 io_service,然后等待在发布更多任务之前完成单个时间步的工作。有没有好的方法来做到这一点?这是我现在工作的(精简)代码:

boost::asio::io_service io_service;
for(int theTime = 0; theTime != totalTime; ++theTime)
{
    io_service.reset();
    boost::thread_group threads;
    // scoping to destroy the work object after work is finished being assigned
    {
        boost::asio::io_service::work work(io_service);
        for (int i = 0; i < maxNumThreads; ++i)
        {
            threads.create_thread(boost::bind(&boost::asio::io_service::run,
                &io_service));
        }

        for(int i = 0; i < numSmallTasks; ++i)
        {
            io_service.post(boost::bind(&process_data, i, theTime));
        }
    }
    threads.join_all(); 
}

这是我宁愿拥有的(但不知道如何实现):

boost::asio::io_service io_service;
boost::thread_group threads;
boost::asio::io_service::work work(io_service);
for (int i = 0; i < maxNumThreads; ++i)
{
    threads.create_thread(boost::bind(&boost::asio::io_service::run,
         &io_service));
}

for(int theTime = 0; theTime != totalTime; ++theTime)
{
    for(int i = 0; i < numSmallTasks; ++i)
    {
        io_service.post(boost::bind(&process_data, i, theTime));
    }
    // wait here until all of these tasks are finished before looping 
    // **** how do I do this? *****
}
// destroy work later and join all threads later...
4

3 回答 3

11

您可以使用期货进行数据处理并使用boost::wait_for_all(). 这将允许您根据已完成工作的部分而不是线程进行操作。

int process_data() {...}

// Pending futures
std::vector<boost::unique_future<int>> pending_data;

for(int i = 0; i < numSmallTasks; ++i)
{
   // Create task and corresponding future
   // Using shared ptr and binding operator() trick because
   // packaged_task is non-copyable, but asio::io_service::post requires argument to be copyable

   // Boost 1.51 syntax
   // For Boost 1.53+ or C++11 std::packaged_task shall be boost::packaged_task<int()>
   typedef boost::packaged_task<int> task_t;

   boost::shared_ptr<task_t> task = boost::make_shared<task_t>(
      boost::bind(&process_data, i, theTime));

   boost::unique_future<int> fut = task->get_future();

   pending_data.push_back(std::move(fut));
   io_service.post(boost::bind(&task_t::operator(), task));    
}

// After loop - wait until all futures are evaluated
boost::wait_for_all(pending_data.begin(), pending_data.end()); 
于 2012-10-30T21:14:27.183 回答
0

可能你可以使用boost::barrier如下:

void thread_proc( boost::barrier& b ) {
    while( true ) {
        if( !ioservice.run_one() ) break; // io_service stopped
        b.wait();
    }
}
于 2012-10-30T19:46:36.117 回答
0

Rost 的方法本质上是有效的,但是 boost::make_shared 不能按原样编译。以下是工作版本(在 vs2012 中):

#include <boost/asio.hpp>
#include <boost/bind.hpp>
#include <boost/make_shared.hpp>
#include <boost/function_types/result_type.hpp>
#include <boost/shared_ptr.hpp>
#include <boost/function.hpp>
#include <boost/thread.hpp>

std::vector<boost::unique_future<void>> pending_data;
typedef boost::packaged_task<void> task_t;

boost::shared_ptr< boost::packaged_task<void> > pt(new boost::packaged_task<void> ([&,i](){...}));
boost::unique_future<void> result = pt->get_future();
pending_data.push_back(boost::move(result));
io_service.post(boost::bind(&task_t::operator(), pt));

boost::wait_for_all(pending_data.begin(), pending_data.end()); 
pending_data.clear();

如果在 packaged_task typedef 中使用参数,它将不会编译。这个由 asio 和 future 方法创建的线程池与每个循环创建新线程方法相比仅节省了 8% 的时间。

于 2014-10-10T21:41:59.487 回答