c – 测量相互依赖线程的并行计算时间
|
我有一个关于并行程序中运行时测量的问题(我使用C但我认为这个问题更为通用).
一些简短的解释：3个线程并行运行(pthread),以不同的方式解决同样的问题.每个线程可以将信息传递给另一个线程(例如,由一个线程而不是另一个线程获得的部分解决方案),以便根据他自己的计算中的他自己的状态/可用信息来加速其他线程.第一个线程准备就绪后,整个过程就会停止. 在我看来,问题在于(由于操作系统暂停/取消暂停单个线程),在进程中传递信息的点在每个进程的状态中都不是确定的.这意味着,在线程1上的xxx单位的cpu时间之后获取某个信息,但是它无法被控制,线程2是否在yyy之后接收该信息或者在其计算中花费的cpu时间的zzz单位.假设此信息在任何情况下都已完成线程2的计算,则线程2的运行时间为yyy或zzz,具体取决于操作系统的操作. 我可以做些什么来获得运行时比较的确定性行为？我可以命令操作系统运行每个线程“不受干扰”(在多核机器上)吗？我可以在实施(c) – 基础上做些什么吗？ 或者是否有其他概念来评估此类实现的运行时间(时间增益)？ 最好的祝福 解决方法
每当有人在同一个句子中使用“确定性”和“多核”这两个术语时,它就会响起警钟:-)
您的程序中有两个非确定性的主要来源：1)操作系统,它通过操作系统抖动和调度决策为线程时序增加噪声; 2)算法,因为程序遵循不同的路径,这取决于(部分解决方案的)通信发生的顺序. 作为一名程序员,你无法对操作系统噪音做些什么.即使对于在专用(静止)节点上运行的程序,标准OS也会增加很多噪声.用于计算节点的专用操作系统可以在某种程度上降低噪声,例如Blue Gene systems exhibit significantly less OS noise and therefore less variation in timings. 关于算法,您可以通过添加同步向程序引入确定性.如果两个线程同步,例如交换部分解,则同步之前和之后的计算顺序是确定性的.您当前的代码是异步的,因为一个线程“发送”部分解决方案,但不等待它“收到”.您可以通过将计算分为步骤并在每个步骤之后在线程之间进行同步,将其转换为确定性代码.例如,对于每个线程： >计算一步 当然,我们不希望这个代码也能执行,因为现在每个线程都必须等待所有其他线程完成计算才能继续下一步. 最好的方法可能是接受非确定性,并使用统计方法来比较您的时间.对于给定数量的线程运行程序多次,并记录时间的范围,平均值和标准偏差.您可能已经足够了解例如对于给定数量的线程,所有运行的最大计算时间,或者您可能需要统计测试(例如Student’s t-test)来回答更复杂的问题,例如“从4个线程增加到8个线程的确定性如何减少运行时间？”.正如DanielKO所说,时间的波动是用户实际会经历的,所以测量这些并在统计上量化它们是有意义的,而不是旨在完全消除它们. （编辑：李大同） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |