如何提高将数据推送到互斥锁队列的性能

我有一个“jobs”队列(函数指针和数据)从主线程推送到它上面,然后通知工作线程弹出数据并运行它。

功能非常基本,如下所示:

class JobQueue {
public: 
    // usually called by main thread but other threads can use this too
    void push(Job job) {
        {
            std::lock_guard<std::mutex> lock(mutex);   // this takes 40% of the thread's time (when NOT sync'ing)
            ready = true;
            queue.emplace_back(job);
        }
        cv.notify_one();   // this also takes another 40% of the thread's time
    }

    // only called by worker threads
    Job pop() {
        std::unique_lock<std::mutex> lock(mutex);
        cv.wait(lock, [&]{return ready;});
        Job job = list.front();
        list.pop_front();
        return job;
    }

private:
    std::list<Job>            queue;
    std::mutex                mutex;
    std::condition_variable   cv;
    bool                      ready;
};

但我有个大问题, push() 真的很慢 . 工作线程超过了主线程,在我的测试中,添加作业是主线程所做的全部工作。(工作线程执行20个4x4矩阵旋转,这些矩阵旋转互相馈送并在最后打印,因此它们不会被优化掉),随着可用工作线程的数量增加,情况似乎变得更糟。如果每个“作业”都更大,比如说100个矩阵运算,那么这个负数就消失了,更多的线程==更好,但实际上我给它的作业要小得多。

最热门的调用是互斥锁和 notify_one() 这占了40%的时间,其他的一切似乎都微不足道。另外,互斥锁很少等待,它几乎总是可用的。

我不确定我应该在这里做什么,是否有一个明显的或不那么明显的优化,我能做到这将有帮助,或者我可能犯了一个错误?任何见解都将受到极大的赞赏。

(这里有一些我采用的度量标准,如果可能有帮助的话,它们不计算创建线程所需的时间,即使是数十亿个作业,模式也是一样的)

Time to calc 2000000 matrice rotations
(20 rotations x 100000 jobs)
threads   0:       149 ms  << no-bool baseline
threads   1:       151 ms  << single threaded w/pool
threads   2:        89 ms
threads   3:       120 ms
threads   4:       216 ms
threads   8:       269 ms
threads  12:       311 ms  << hardware hint
threads  16:       329 ms
threads  24:       332 ms
threads  96:       336 ms

(所有工作线程都有相同的模式,绿色表示执行,红色表示等待同步)