1 / 4概念
Superscalar
超标量处理器每周期取指、译码并发射多条指令,用并行流水线换取高于 1 的 IPC。上限由发射宽度、依赖距离与前端带宽共同决定。读完应能估算发射宽度与可达 IPC,并判断何时该加宽、何时该改乱序。
1 概念
1.1 一句话定义
超标量是在一个周期内取多条指令、并行译码、按序或乱序发射到多条功能流水线的实现,峰值 IPC 等于发射宽度。
1.2 它解决什么问题
- 提高 IPC:不靠提高频率,而在同一拍完成多条指令。
- 利用 ILP:把相邻的独立指令配对发射。
- 平衡前后端:取指、译码、发射、执行与提交都要跟上宽度。
- 暴露代价:依赖检查、寄存器堆端口与旁路网络随宽度快速膨胀。
1.3 不属于本页的内容
| 主题 | 去哪 |
|---|---|
| 乱序调度、保留站与 ROB | Dynamic Scheduling |
| 分支预测 | Branch Prediction |
| VLIW 与静态调度 | VLIW and Static ILP |
| SMT 与多核 | Multithreading and Multicore |
1.4 关键术语
| 术语 | 含义 | 容易混淆的点 |
|---|---|---|
| 发射宽度 | 每周期最多发射的指令数 | 不是实际 IPC |
| IPC | 每周期完成的指令数 | 不是频率 |
| 按序发射 | 严格按程序顺序进入执行 | 可能因队头阻塞浪费槽位 |
| 乱序发射 | 依赖就绪即发射 | 需要重命名与 ROB |
| 发射槽 | 一拍内可用的发射位置 | 停顿会浪费槽位 |
| 指令窗口 | 可供调度的在途指令集合 | 不是缓存 |
2 机制
2.1 心智模型
把超标量想成一条多车道公路:车道数就是发射宽度,但并线、限速与出口会让实际流量低于车道数乘限速。 每拍能开几辆,取决于前端能否供上、依赖是否放行、后端是否有空闲功能单元。
2.2 机制拆解
- 取指:每拍取 w 条,跨缓存行与变长指令会限制对齐取指。
- 译码:每拍译 w 条,x86 变长指令需预解码与 uop 缓存。
- 发射:按序发射需检查与在途指令的 RAW 与 WAW,乱序发射在窗口中选就绪指令。
- 执行:多条 ALU、访存与浮点流水并行,端口数决定结构上限。
- 提交:按序提交保证精确异常,提交宽度常小于发射宽度。
- 上限:峰值
IPC = w,持续IPC ≤ w / (1 + s),s是每条指令的平均停顿。
2.3 完整枚举
| 类型 | 发射顺序 | 依赖处理 | 例子 |
|---|---|---|---|
| 单发射 | 每拍 1 条 | 旁路加停顿 | 经典五级 |
| 按序多发射 | 每拍 w 条,按序 | 静态配对或动态检查 | 早期超标量 |
| 乱序多发射 | 每拍 w 条,乱序 | 重命名、保留站、ROB | 现代高性能核 |
| VLIW | 编译器打包 | 编译器保证无冲突 | DSP、早期 IA-64 |
| SMT | 多线程共享发射槽 | 每线程独立重命名 | 服务器核 |
2.4 关键数字与复杂度
| 指标 | 量级 | 说明 |
|---|---|---|
| 发射宽度 w | 2 / 4 / 6 / 8 | 桌面与服务器常见 4–8 |
| 实际 IPC | 2–4 | 四宽核常见 2–3 |
| 加速比 | 1.5–3 倍 | 相对单发射同频 |
| 取指带宽 | w 条乘指令长度 | 定长指令更易对齐 |
| 寄存器堆端口 | 2w 读加 w 写 | 面积随端口数上升 |
| 指令窗口 | 100–500 条 | 乱序核 |
3 实践
3.1 最小示例
# 双发射按序:每拍最多 2 条;同拍产生的结果,同拍不能消费。
prog = [("x3", ("x1", "x2")), ("x4", ("x3", "x5")), ("x6", ("x7", "x8")),
("x9", ("x4", "x6")), ("x10", ("x3", "x9"))]
produced, cycle, i, slots = {}, 0, 0, []
while i < len(prog):
cycle += 1
n = 0
while n < 2 and i < len(prog):
dst, srcs = prog[i]
if any(produced.get(s, 0) >= cycle for s in srcs):
break # 依赖未就绪,本拍剩余槽位作废
produced[dst] = cycle
i, n = i + 1, n + 1
slots.append(n)
print(slots, cycle, round(len(prog) / cycle, 2)) # [1, 2, 1, 1] 4 拍 IPC 1.25
同一拍产生的结果不能在同一拍被消费,所以 produced 记录产出拍号。第一拍只能发 i0,因为 i1 依赖它,不能同拍跟进。第二拍 i1 与独立的 i2 配对,两个槽位用满。第三拍 i3 发出后,依赖它的 i4 只能等下一拍。五条指令四拍,IPC 为 1.25,而峰值是 2;宽度是上限,依赖距离与配对规则决定实际值。
3.2 常用操作与参数
| 操作 | 命令 | 说明 |
|---|---|---|
| 看 IPC | perf stat -e cycles,instructions ./app | 比值即 IPC |
| 看发射槽 | perf stat -e uops_issued.any ./app | x86 专用 |
| 估算吞吐 | llvm-mca -mtriple=x86_64 -mcpu=skylake | 资源压力与瓶颈 |
| 看前端 | perf stat -e stalled-cycles-frontend ./app | 取指与译码受限 |
| 看指令配对 | objdump -d | 找可并行的独立指令 |
3.3 标准流程
- 定宽度 w 与功能单元配比:ALU、访存、浮点。
- 保证前端每拍能供 w 条:取指对齐、预解码、uop 缓存。
- 实现依赖检查与旁路网络,端口随 w 增长。
- 按序提交,保证精确异常。
- 测实际 IPC,按前端、后端与提交三个方向分解损失。
3.4 与相邻技术的组合
- 乱序:把按序发射的队头阻塞换成窗口调度。
- 分支预测:减少冲刷,保持前端供给。
- SMT:发射槽空闲时填入另一线程的指令。
- 缓存:取指与数据带宽决定 w 能否持续喂饱。
3.5 选型维度
| 维度 | 取值 | 影响 |
|---|---|---|
| 发射宽度 | 2 / 4 / 6 / 8 | 越宽收益递减、面积与功耗上升 |
| 发射顺序 | 按序 / 乱序 | 乱序省停顿但复杂 |
| 调度方 | 硬件 / 编译器 | VLIW 把复杂度给编译器 |
| 目标 | 单线程延迟 / 吞吐 | 前者看窗口,后者看宽度 |
3.6 决策规则
- 单线程延迟敏感,宜加宽并配乱序;只加宽不解决依赖。
- 面积与功耗紧张,宜窄发射加 SMT 填槽。
- 宽发射的前提是前端供得上,解码宽度与 I-cache 带宽应先够。
- 有强编译器可用时,可考虑 VLIW 把调度交给软件。
3.7 替代方案对比
| 方案 | 优势 | 代价 | 适用 |
|---|---|---|---|
| 单发射 | 简单、省面积 | IPC 至多 1 | 嵌入式 |
| 按序超标量 | 硬件较简单 | 队头阻塞 | 中端 |
| 乱序超标量 | IPC 高 | 重命名、ROB、功耗 | 服务器、桌面 |
| VLIW | 硬件简单 | 编译器与兼容性 | DSP |
| SMT | 填满槽位 | 共享资源竞争 | 吞吐型 |
3.8 何时不该用
- 不要假设宽度等于 IPC:依赖与停顿会吃掉一半槽位。
- 不要在端口不够时加宽:寄存器堆与旁路会先成为瓶颈。
- 不要在分支密集代码上只加宽:冲刷会浪费更多槽位。
4 边界
4.1 典型故障
| 症状 | 根因 | 处理 |
|---|---|---|
| 加宽后 IPC 不升 | 前端供不上或依赖密集 | 看前端停顿与解码宽度 |
| 频率下降 | 端口与旁路网络变长 | 分段旁路或降宽 |
| 结果错 | 同拍写读寄存器堆冲突 | 定义写优先并加旁路 |
| 面积超预算 | 寄存器堆端口平方增长 | 分 bank 或减宽 |
| 异常不精确 | 多指令同拍提交 | 按序提交并记录指令边界 |
4.2 反模式
| 做法 | 后果 | 替代 |
|---|---|---|
| 只加 ALU 不加取指 | 前端成瓶颈 | 同步加宽前端 |
| 用发射宽度做性能承诺 | 实际 IPC 打折 | 用实测 IPC |
| 忽略提交宽度 | 后端堆积 | 提交与发射匹配 |
4.3 可观测信号
perf stat 的 IPC、uops_issued 与 stalled-cycles-frontend;llvm-mca 的资源压力;实际频率与功耗墙;branch-misses;波形中的发射槽与 valid。
4.4 安全 / 性能 / 一致性边界
- 性能:IPC 上限为 w,实际受依赖距离与停顿约束,常见为 w 的一半上下。
- 功耗:宽度与乱序窗口会推高功耗,能效拐点通常在 4–6 宽。
- 一致性:多指令同拍提交必须按序,异常与中断才能精确。
- 安全:宽发射放大推测执行的状态泄露面,侧信道缓解常以 IPC 为代价。