1 / 4概念
Metrics and CPI
性能不是主频,也不是核数,而是一段时间内做完了多少活。CPU time = IC × CPI × T 把这段时间拆成三个可分别测量的因子,让“机器慢”变成能定位的乘法问题。读完能把一次性能差异拆到指令数、每指令周期或周期时长上,并用计数器验证判断。
1 概念
1.1 一句话定义
CPI 是每条指令平均消耗的时钟周期数,CPI = cycles / instructions;性能是程序在给定输入下的端到端时间,CPU time = IC × CPI × T。
1.2 它解决什么问题
- 比较与定位:同一负载下把差异拆成指令数、CPI 与周期时长,指令多时查编译与 ISA,每指令慢时查停顿。
- 目标与预算:给出可验收的加速比与测量口径,并决定芯片面积给缓存、给发射宽度还是给频率。
1.3 不属于本页的内容
| 主题 | 去哪 |
|---|---|
| Amdahl、Little、roofline | Amdahl, Little and Roofline |
| 基准测试、仿真与 PMU 事件细节 | Benchmarks, Simulation and PMU |
| 功耗、能耗与散热 | Power, Energy and Thermal |
| 缓存组织、流水线与乱序实现 | Memory Hierarchy、Microarchitecture |
1.4 关键术语
| 术语 | 含义 | 容易混淆的点 |
|---|---|---|
| IC | 动态执行的指令条数 | 不是静态代码行数,循环展开会改变它 |
| CPI | 每条指令平均周期数,cycles / instructions | 不是固定值,随负载与停顿变化 |
| IPC | 每周期退休的指令数,CPI 的倒数 | 不是峰值发射宽度 |
| 时钟周期 T | 一个周期的时间,T = 1 / f | 不是延迟,延迟等于周期数乘 T |
| CPU time | 进程实际占用处理器的时间 | 不含等待 I/O 的墙上时间 |
| 加速比 | 旧时间除以新时间 | 不是百分比,也不是吞吐比 |
2 机制
2.1 心智模型
把时间想成一条三节链条:编译器与 ISA 决定要做多少条指令,微架构决定每条指令要几个周期,工艺决定一个周期多长。 三节相乘,单独缩短一节,收益会被另外两节稀释;加深流水线能提高频率,却同时抬高分支误预测的代价。
2.2 机制拆解
- 指令数 IC:由算法、编译器优化与 ISA 编码密度决定;CPI 分解为
基础 CPI + 停顿周期 / IC,基础值来自理想流水线,停顿来自缓存、分支、依赖与功能单元冲突。 - 周期时长 T:由关键路径、供电电压与流水线深度决定,
T = 1 / f,电压下降会拉长门延迟。 - 加权平均:混合负载的 CPI 按指令比例加权,
CPI = Σ(CPI_i × 占比_i),换负载等于换 CPI。
2.3 完整枚举
| 指标 | 定义式 | 单位 | 决定者 | 典型量级 |
|---|---|---|---|---|
| IC | 动态退休指令数 | 条 | 算法、编译器、ISA | 10^8–10^12 |
| CPI | cycles 除以 instructions | 周期/条 | 微架构与停顿 | 0.5–4 |
| IPC | instructions 除以 cycles | 条/周期 | 发射宽度、并行度 | 1–6 |
| T | 1 除以 f | ns | 工艺、关键路径 | 0.2–0.4 ns |
| CPU time | IC × CPI × T | s | 三者共同 | 随负载变化 |
2.4 关键数字与复杂度
| 指标 | 量级 | 说明 |
|---|---|---|
| 现代乱序核 CPI | 0.5–1.5 | 超标量加乱序,随负载漂移 |
| L1 命中延迟 | 约 4 个周期 | 约 1 ns |
| DRAM 延迟 | 200–300 个周期 | 约 80–100 ns |
| 分支误预测代价 | 15–20 个周期 | 深流水线更高 |
3 实践
3.1 最小示例
sudo cpupower frequency-set -g performance # 固定频率,减少方差
taskset -c 2 perf stat -r 5 -e cycles,instructions ./app
# 计数器读数 3.20e9 cycles、2.00e9 指令:CPI = 3.2 / 2.0 = 1.6,IPC = 0.625
3.2 常用操作与参数
| 操作 | 命令 | 说明 |
|---|---|---|
| 看周期与指令 | perf stat -e cycles,instructions | 最直接的两个量 |
| 看分支与缓存 | perf stat -e branch-misses,cache-misses | 把停顿归到来源 |
3.3 标准流程
- 固定输入、编译器、频率策略与 CPU 亲和性,记录一次基线。
- 取 cycles 与 instructions 算出 CPI 与 IPC,判断是“指令多”还是“每指令慢”。
- 用 cache、branch、TLB 事件归因,再用
perf record采样热点,只改一个变量后复测。
3.4 与相邻技术的组合
- 编译器、ISA 与流水线:
-O2、向量化与内联同时改变 IC 与 CPI;命中率决定停顿周期,发射宽度决定 IPC 上限,乱序窗口决定能藏住多少延迟,收益须用同一口径复测。
3.5 选型维度
| 维度 | 取值 | 影响 |
|---|---|---|
| 时间口径 | CPU time 或墙上时间 | 决定是否把 I/O 与阻塞算进来 |
| 机器范围 | 同构或异构 | 异构时 MIPS 与 FLOPS 不可直接比 |
3.6 决策规则
- 先问“IC、CPI、T 哪一项变了”,再讨论换硬件;指令数占比高时宜先优化算法与编译选项。
- 比较不同 ISA 时不应使用 MIPS,应使用同一负载的时间或能耗,并标注强扩展还是弱扩展。
3.7 替代方案对比
| 方法 | 优势 | 代价 | 适用 |
|---|---|---|---|
| 墙上时间 | 贴近用户体验 | 含 I/O 与调度噪声 | 端到端验收 |
| IPC 与停顿分解 | 可归因到微架构 | 依赖计数器与权限 | 微架构调优 |
3.8 何时不该用
- 不要在未固定频率、亲和性与输入时下结论,噪声会盖过真实差异;也不要用单个微基准代表整机,或把
%steal计入应用 CPI。
4 边界
4.1 典型故障
| 症状 | 根因 | 处理 |
|---|---|---|
| IPC 远低于同机型 | 缓存缺失或分支误预测 | 看 LLC 与分支事件,优化数据布局 |
| cycles 与 instructions 抖动大 | 频率变化或 CPU 迁移 | 固定频率、绑核、多次取中位数 |
| 时间远大于 CPU time | 阻塞在 I/O、锁或调度 | 查 Elapsed 与 %iowait、%steal |
4.2 反模式
| 做法 | 后果 | 替代 |
|---|---|---|
| 用主频比较两代产品 | 忽略 IPC 与缓存差异 | 用同一负载的时间 |
| 只看平均 CPI | 掩盖阶段性与尾延迟 | 看时间序列与分位数 |
4.3 可观测信号
perf stat 的 cycles、instructions、IPC、cache-misses、branch-misses 与 perf stat -I 的分段曲线;/usr/bin/time -v 的 user、sys、elapsed;mpstat 的 %usr、%iowait、%steal;turbostat 的实际频率与功耗。
4.4 安全 / 性能 / 一致性边界
- 计数器有观测代价:高频采样与多路复用会扰动被测程序,应控制事件数与采样率。
- 口径须一致:换机器、换编译器或换输入都必须重测基线,否则加速比不可比。