谈并行计算效率中的Ahmdal's法则 (阿姆达尔定律)

Ahmdal’s Law 是并行计算中最简单最有名的公式(阿姆达尔定律). 这个公式是用来理论上估计程序在使用多线程或者多核甚至多台机同时计算的情况下最大能获得的性能提升.

性能的提升是由改进算法前的时间比上改进后的时间, 比如:

$tex_9151f214c35c2d5168ffa880b54e9b6d 谈并行计算效率中的Ahmdal's法则 (阿姆达尔定律) I.T. 技术程序员计算机$

其中 T(1) 就是没有并行(或者可以理解为单线程), T(N) 则是使用N个线程或者核或者多台机器同时计算后的时间. 假设一个算法中不能并行的部分所占比重为 B, 那么:

$tex_a74fc26059339ebbab56e68642a646f6 谈并行计算效率中的Ahmdal's法则 (阿姆达尔定律) I.T. 技术程序员计算机$

1 – B 则是可以并行所占的比重. 该公式可以通过 $tex_cf6589eb51481a4d750d5cb0d98fede6 谈并行计算效率中的Ahmdal's法则 (阿姆达尔定律) I.T. 技术程序员计算机$ 来简化 (P 表示可以并行化的比例), 也就是有名的 Ahmdal’s法则(阿姆达尔定律):

$tex_8ef8b8573ad4c99a06d22106c02d8a23 谈并行计算效率中的Ahmdal's法则 (阿姆达尔定律) I.T. 技术程序员计算机$

性能分析

根据不同的比重可以大概得出使用并行化(假设N倍提升) 后得到的总体性能提升.

Amdahl_Law 谈并行计算效率中的Ahmdal's法则 (阿姆达尔定律) I.T. 技术程序员计算机

阿姆达尔法性能分析

把时间花在最重要的事情上

如果上面的图你还是看不太懂的话可以看看这个:

amdahl-law-faster 谈并行计算效率中的Ahmdal's法则 (阿姆达尔定律) I.T. 技术程序员计算机

阿姆达尔法

看清楚的看到我们或需要通过并行化来提升整体性能需要主要花时间在所占整体运行时间多的模块.

已经运行很好的模块就不要去动它了 Click To Tweet

在优化之前需要用性能工具分析一下(Profiler) 这样有助于我们了解哪一块代码是比较耗时间的, 然后我们再来分析如何将该部分代码(瓶颈) 并行或者得到性能提升. 如果一些代码已经工作很好, 而且占用整体运行时间不到10% 那么就不建议把优化这块作为首要的任务. 因为即使你把这块代码提升10倍的性能: 所以能得到的理想整体性能提升也才 (1/(1-0.1+(0.1/10))=1.098. 性价比不高.

更何况这还是理论性能提升实际上还得考虑引入并行化带来的其它额外消耗, 比如数据在不同机器的传输, 又或者为了并行化引入的额外代码的消耗 e.g. 准备并行化所需要的数据划分问题等等.

GD Star Rating
loading...

本文一共 582 个汉字, 你数一下对不对.

谈并行计算效率中的Ahmdal’s法则 (阿姆达尔定律). (AMP 移动加速版本)
上一篇: Vultr 推出 2.5 美元主机 - 主机升级
下一篇: 英国 Tesco 超市推出 IFTTT 接口

赞赏我的几个理由.

¥ 打赏支持

扫描二维码，分享本文到微信朋友圈

小赖子的英国生活和资讯

谈并行计算效率中的Ahmdal’s法则 (阿姆达尔定律)

性能分析

把时间花在最重要的事情上

评论

性能分析

把时间花在最重要的事情上

相关文章：

评论