1 / 4概念
Pipeline Basics
流水线把一条指令拆成多级,每级一拍,多条指令在不同级上重叠。理想情况下每周期完成一条指令,加速比接近级数。读完应能画五级流水时空图、算时钟周期与加速比,并判断加深流水是否值得。
1 概念
1.1 一句话定义
流水线是把指令执行划分为 k 个串行级、级间插入寄存器、让不同指令同时占用不同级的实现方式,目标是提高吞吐而不是缩短单条延迟。
1.2 它解决什么问题
- 提高吞吐:每周期启动并完成一条指令,功能单元被连续使用。
- 提高频率:每级只承担一部分组合逻辑,时钟周期由最长级决定。
- 摊薄控制开销:取指与访存单元不再闲置等待。
- 代价可控:用级间寄存器与冒险检测换取吞吐。
1.3 不属于本页的内容
| 主题 | 去哪 |
|---|---|
| 冒险类型、旁路与停顿 | Pipeline Hazards and Exceptions |
| 多发射与乱序执行 | Superscalar、Dynamic Scheduling |
| 分支预测器结构 | Branch Prediction |
| 缓存与存储器层次 | Memory Hierarchy |
1.4 关键术语
| 术语 | 含义 | 容易混淆的点 |
|---|---|---|
| 级 | 流水线的一站 | 不是时钟周期 |
| 流水寄存器 | 级间保存数据与控制 | 不是架构寄存器 |
| 吞吐 | 每周期完成的指令数 | 不是延迟 |
| 延迟 | 一条指令从进入到完成 | 等于 k 拍 |
| 气泡 | 流水线中的空拍 | 由停顿或冲刷产生 |
| 冲刷 | 丢弃已取入的指令 | 分支与异常使用 |
2 机制
2.1 心智模型
把流水线想成一条 k 个工位的装配线:每个工位只做一件事,工件每隔一拍前进一格。 单个工件走完全程仍要 k 拍,但每拍都有一个工件下线,因此吞吐是 k 倍。
2.2 机制拆解
- 分级:五级为 IF、ID、EX、MEM、WB,每级组合逻辑尽量等长。
- 级间寄存器:
IF/ID存指令与PC+4,ID/EX存操作数与控制,EX/MEM存 ALU 结果与目标寄存器,MEM/WB存读出数据。 - 控制随行:控制信号在 ID 级生成,随指令进入后续级,避免每级重新译码。
- 时钟周期:
T = max(stage) + t_latch,t_latch含建立、保持、时钟偏斜与触发器延迟。 - 拍数:n 条指令共
k + (n - 1)拍完成,首尾各有一段填充与排空。 - 加速比:忽略闩锁开销时
S = k / (1 + stalls),stalls是每条指令的平均停顿拍数。
2.3 完整枚举
| 级 | 主要工作 | 使用的部件 | 输出到 |
|---|---|---|---|
| IF | 取指,计算 PC+4 | PC、IMEM | IF/ID |
| ID | 译码、读寄存器、生成控制 | 寄存器堆 | ID/EX |
| EX | ALU 运算、分支判定、地址计算 | ALU | EX/MEM |
| MEM | 读或写数据存储器 | DMEM | MEM/WB |
| WB | 写回寄存器堆 | 寄存器堆 | 无 |
2.4 关键数字与复杂度
| 指标 | 量级 | 说明 |
|---|---|---|
| 级数 k | 5 | 经典 RISC 五级 |
| 理想加速比 | k | 忽略闩锁与停顿 |
| 实际加速比 | 3.5–4.5 | 含闩锁、分支与依赖 |
| 闩锁开销 | 10–20% | 每级触发器与偏斜 |
| 满载 CPI | 1 | 无冒险时 |
| 单条延迟 | k 拍 | 流水不降低延迟 |
3 实践
3.1 最小示例
cycle 1 2 3 4 5 6 7 8 9 10
i0 IF ID EX MEM WB
i1 IF ID EX MEM WB
i2 IF ID ID EX MEM WB
i3 IF IF ID EX MEM WB
i4 IF ID EX MEM WB
i1 是 lw,i2 依赖它,第 5 拍在 EX 插入一个气泡。5 条指令用 10 拍,而无流水需要 25 拍,加速比为 2.5;其中包括 4 拍填充与 1 拍停顿。指令流足够长时,填充与排空被摊薄,加速比趋近 k / (1 + stalls),本例为 5 / (1 + 0.2) = 4.17。
3.2 常用操作与参数
| 操作 | 命令 | 说明 |
|---|---|---|
| 看 IPC | perf stat -e cycles,instructions ./app | 比值即 IPC |
| 看前端停顿 | perf stat -e stalled-cycles-frontend ./app | 取指与译码受限 |
| 看后端停顿 | perf stat -e stalled-cycles-backend ./app | 执行与访存受限 |
| 静态吞吐 | llvm-mca -mtriple=x86_64 -mcpu=skylake | 资源压力与瓶颈 |
| 看时空图 | RTL 波形 | 级间 valid 与 PC |
3.3 标准流程
- 选级数与每级职责,尽量等长。
- 定义级间寄存器内容,控制信号随行。
- 插入冒险检测与旁路,先保证正确性。
- 用长指令流测 CPI,分解前端与后端停顿。
- 加深或加宽前,先确认瓶颈级。
3.4 与相邻技术的组合
- 缓存:IF 与 MEM 延迟变成可变,需要
ready握手或停顿。 - 分支预测:减少冲刷,把控制冒险转成预测问题。
- 多发射:并行多条流水,宽度与级数共同决定吞吐。
- 动态调度:后级等待时,先执行无关指令。
3.5 选型维度
| 维度 | 取值 | 影响 |
|---|---|---|
| 级数 | 5 / 8 / 13 以上 | 深流水提高频率但增加冲刷代价 |
| 级间平衡 | 平衡 / 不平衡 | 不平衡直接浪费周期 |
| 旁路 | 有 / 无 | 无旁路需要更多停顿 |
| 目标 | 低延迟 / 高吞吐 | 流水优化吞吐 |
3.6 决策规则
- 追求吞吐,宜流水;追求单条延迟,流水无益。
- 分支密集,宜浅流水或强预测,深流水冲刷代价高。
- 级间不平衡时,应先重划级,而不是先加压频率。
- 关键路径在存储器,宜先优化缓存,而不是继续加深。
3.7 替代方案对比
| 方案 | 优势 | 代价 | 适用 |
|---|---|---|---|
| 单周期 | 直白,CPI 为 1 | 频率低 | 教学、原型 |
| 多周期 | 面积小 | 无重叠,CPI 3–5 | 低功耗嵌入式 |
| 五级流水 | 吞吐与复杂度平衡 | 冒险与异常 | 通用处理器 |
| 深流水 | 高频率 | 冲刷与功耗 | 高主频核 |
| 多发射 | 更高 IPC | 面积与功耗 | 服务器 |
3.8 何时不该用
- 不要为降低单条延迟而上流水:延迟反而从 1 拍变成 k 拍。
- 不要在级数很深时忽略分支代价:冲刷拍数随深度线性上升。
- 不要让缓存缺失直接冻结整条流水:应支持停顿与重放。
4 边界
4.1 典型故障
| 症状 | 根因 | 处理 |
|---|---|---|
| IPC 低于预期 | 冒险或级间不平衡 | 看前端与后端停顿 |
| 频率上不去 | 最长级或闩锁开销 | 重划级或减扇出 |
| 结果错 | 控制信号未随行 | 检查级间寄存器位宽 |
| 冲刷后状态错 | 未清除非架构状态 | 每级加 valid 位 |
| 访存阻塞 | 缓存缺失无握手 | 加 ready 与重放 |
4.2 反模式
| 做法 | 后果 | 替代 |
|---|---|---|
| 只加级不重划分 | 级间失衡 | 先测每级延迟 |
| 每级都重新译码 | 面积与时序浪费 | 控制随指令传递 |
忽略 valid 位 | 气泡被当成指令 | 每级携带有效位 |
4.3 可观测信号
perf stat 的 IPC、stalled-cycles-frontend、stalled-cycles-backend 与 branch-misses;波形里的级间 valid 与 PC 序列;llvm-mca 的吞吐与瓶颈资源;综合报告的最长级路径。
4.4 安全 / 性能 / 一致性边界
- 性能:流水提高吞吐,不降低单条延迟;深流水在分支密集时收益递减。
- 功耗:级数越多,时钟树与触发器功耗越高。
- 一致性:异常应在提交点处理,流水越深,“已执行未提交”的状态越多。
- 安全:推测执行留下的微架构状态可被观测,需在边界处清理。