Skip to main content

1 / 4概念

Amdahl, Little and Roofline

三个模型各自回答一个不能互换的问题:优化能换来多少加速,服务需要多少并发,程序受算力还是带宽限制。它们都是不等式而非承诺,输入端错一位,结论就会差一个数量级。读完能用它们先算上限,再决定是否值得动手。

1 概念​

1.1 一句话定义​

Amdahl 给出固定问题规模下的加速比上限,Little 给出稳态下并发数、吞吐与驻留时间的关系,roofline 给出给定算术强度下可达到的浮点性能上界。

1.2 它解决什么问题​

  • 先估上限再定方向:判断优化最多能拿多少,以及该买算力还是买带宽,避免把 5% 的串行段优化十遍。
  • 定并发:用吞吐与延迟算出需要多少在途请求、线程、连接或队列槽位。

1.3 不属于本页的内容​

主题去哪
IC、CPI 与时间分解Metrics and CPI
基准测试、仿真与 PMU 测量Benchmarks, Simulation and PMU
功耗、能耗与散热Power, Energy and Thermal

1.4 关键术语​

术语含义容易混淆的点
p可并行部分占原执行时间的比例不是代码行数比例
加速比 S旧时间除以新时间与效率 S / N 不同
L稳态下的在途请求数不是线程池上限
算术强度 I每字节内存流量对应的浮点运算数不是缓存命中率
ridge point峰值算力除以峰值带宽小于它的负载带宽受限