c – 有效地收集/分散任务

我正在使用的MPI实现本身不支持完整的多线程操作(出于复杂的原因,最高级别是MPI_THREAD_SERIALIZED),所以我试图将来自多个线程的请求汇集到一个工作线程中,然后将结果分散回来到多个线程.

通过使用并发队列,我可以轻松地处理收集本地请求任务,并且MPI本身支持排队异步任务.然而,问题是让双方互相交谈：

为了将响应分散回各个线程,我需要在当前的正在进行的请求中调用类似MPI_Waitany的东西,但在此期间MPI工作者被有效阻止,因此它无法从中收集和提交任何新任务当地工人.

// mpi worker thread
std::vector<MPI_Request> requests; // in-flight requests
while(keep_running)
{
    if(queue.has_tasks_available())
    {
        MPI_Request r;
        // task only performs asynchronous MPI calls,puts result in r
        queue.pop_and_run(task,&r);
        requests.push_back(r);
    }
    int idx;
    MPI_Waitany(requests.size(),requests.data(),&idx,MPI_STATUS_IGNORE); // problems here! can't get any new tasks
    dispatch_mpi_result(idx); // notifies other task that it's response is ready
    // ... erase the freed MPI_Request from requests
}

类似地,如果我只是让mpi worker等待新任务从并发队列中可用,然后使用类似MPI_Testany之类的东西轮询MPI响应,那么最好的响应可能需要花费很长时间才能真正实现本地工作人员,最糟糕的是,mpi工作人员会因等待本地任务而陷入僵局,但所有任务都在等待mpi响应.

// mpi worker thread
std::vector<MPI_Request> requests; // in-flight requests
while(keep_running)
{
    queue.wait_for_available_task(); // problem here! might deadlock here if no new tasks happen to be submitted
    MPI_Request r;
    queue.pop_and_run(task,&r);
    requests.push_back(r);
    int idx;
    MPI_Testany(requests.size(),MPI_STATUS_IGNORE);
    dispatch_mpi_result(idx); // notifies other task that its response is ready
    // ... erase the freed MPI_Request from requests
}

我能看到解决这两个问题的唯一解决方案是让mpi工作者只对双方进行轮询,但这意味着我有一个永久挂钩的线程来处理请求：

// mpi worker thread
std::vector<MPI_Request> requests; // in-flight requests
while(keep_running)
{
    if(queue.has_tasks_available())
    {
        MPI_Request r;
        // task only performs asynchronous MPI calls,&r);
        requests.push_back(r);
    }
    int idx;
    MPI_Testany(requests.size(),MPI_STATUS_IGNORE);
    dispatch_mpi_result(idx); // notifies other task that its response is ready
    // ... erase the freed MPI_Request from requests
}

我可以介绍一些睡眠功能,但这似乎是一个黑客,会降低我的吞吐量.这个饥饿/无效率问题是否有其他解决方案？