1 / 4概念
Speculative Execution
推测执行让处理器在分支结果或访存依赖尚未确定时继续工作,把结果留在不可见的推测状态里,确认安全后才提交。它把控制依赖与访存延迟从关键路径上移开,代价是必须能完整回滚,并留下可被观测的微架构痕迹。读完应能说清“执行但不提交”的边界,以及 Spectre 为什么不是普通的功能 bug。
1 概念
1.1 一句话定义
推测执行是在结果未确定时沿预测路径执行指令,把架构副作用延迟到提交,并在预测错误或异常时丢弃年轻状态。
1.2 它解决什么问题
- 分支解析慢:等分支算出再取指会浪费十几个周期,前端不能空转。
- 访存延迟:load 的地址或数据未就绪时,后续独立工作可以先行。
- 基本块边界:分支把程序切成小块,推测让跨基本块重叠成为可能。
- 精确异常:已执行但未提交的指令不能改变架构状态,必须能整体撤销。
1.3 不属于本页的内容
| 主题 | 去哪 |
|---|---|
| 分支预测算法与结构 | Branch Prediction |
| 重命名与 ROB 的组织 | Register Renaming and ROB |
| 操作系统级缓解与调度 | Systems → Operating Systems |
| 编译器 if-conversion 与谓词化 | VLIW and Static ILP |
1.4 关键术语
| 术语 | 含义 | 容易混淆的点 |
|---|---|---|
| 提交 | 让指令结果成为架构状态 | 不是执行完成 |
| 清空 | 丢弃年轻指令及其推测状态 | 不是回滚已提交状态 |
| 精确状态 | 异常点之前完成、之后不可见 | 不是“顺序执行” |
| checkpoint | 分支前的映射快照 | 不是内存快照 |
| store buffer | 暂存未提交的写 | 不是缓存 |
| 内存消歧 | 判断 load 与 store 是否别名 | 不是缓存一致性 |
| 推测屏障 | 阻止后续指令越过的指令 | 不是普通内存屏障 |
2 机制
2.1 心智模型
先按预测答案做,做完先不签字;答案错了就把没签字的草稿全部作废。 架构状态只在提交点改变。推测状态包括 ROB 项、物理寄存器、store buffer、RAT checkpoint,以及被推测访存填入的缓存行。
2.2 机制拆解
- 控制推测:分支预测给出路径,前端沿预测路径取指、换名、执行。
- 数据推测:load 可在更老的 store 之前执行,依赖地址消歧或 store set 预测;违例则触发内存序清空并重放。
- 状态隔离:结果写物理寄存器与 ROB,store 留在 store buffer,提交前不写缓存或内存。
- 提交:ROB 头指令无异常时生效;store 此时才进入存储层次,其他核才可能看到。
- 回滚:预测错或异常时,清空年轻 ROB、保留站与访存队列项,恢复 RAT,重定向 PC。
- 屏障与缓解:
lfence、csdb阻止后续指令越过;retpoline 替换间接跳转,IBRS/eIBRS 隔离预测器状态,array_index_nospec掩码数组索引。
2.3 完整枚举
| 推测类型 | 触发 | 保存的推测状态 | 回滚方式 | 例子 |
|---|---|---|---|---|
| 控制推测 | 分支预测 | ROB、物理寄存器、checkpoint | 清空年轻指令,恢复 RAT | 预测 if 走哪边 |
| 数据推测 | 访存消歧 | load 结果、store buffer | 内存序清空并重放 | load 越过 store |
| 值推测 | 结果预测 | 物理寄存器 | 验证失败重算 | 预测 load 值 |
| 异常推测 | 异常延迟报告 | ROB 异常位 | 到提交点再陷入 | 缺页前的后续指令 |
2.4 关键数字与复杂度
| 指标 | 量级 | 说明 |
|---|---|---|
| 预测错误惩罚 | 10–25 周期 | 含清空、恢复与重取指 |
| ROB | 200–600 项 | 决定推测深度 |
| store buffer | 40–100 项 | 暂存未提交写 |
| 恢复延迟 | 10–30 周期 | checkpoint 恢复快于遍历 |
| 分支解析延迟 | 10–20 周期 | 决定推测窗口 |
| 缓解开销 | 5–30% | 依负载与缓解组合变化 |
3 实践
3.1 最小示例
// 若 x 越界,分支本应拦住;推测执行可能已把 array1[x] 读进缓存。
if (x < array1_size) {
y = array2[array1[x] * 4096];
}
攻击者先训练分支为 taken,再传入越界的 x。CPU 在检查失败前已执行 load,array2 的某个缓存行被带入,随后可用计时侧信道观测。array_index_nospec 把索引掩码为零,lfence 则阻止后续 load 越过检查。
3.2 常用操作与参数
| 操作 | 参数 | 说明 |
|---|---|---|
| 设推测深度 | ROB 项数 | 越深越能覆盖延迟,恢复越贵 |
| 设 checkpoint | 2–8 个 | 覆盖未解析分支 |
| 设 store buffer | 40–100 项 | 暂存未提交写 |
| 选消歧策略 | 保守、预测、混合 | 决定 load 能提前多少 |
| 选缓解 | retpoline、IBRS、STIBP | 按威胁模型与性能预算 |
3.3 标准流程
- 前端按预测路径取指、译码与换名。
- 为指令分配 ROB 项,并把结果写入物理寄存器。
- 分支在执行级解析,访存由消歧逻辑验证。
- 预测正确则继续提交;错误则清空年轻状态并恢复映射。
- 提交点的 store 才进入存储层次,异常在提交点按序报告。
3.4 与相邻技术的组合
分支预测决定推测走哪条路径,ROB 与重命名提供可回滚的推测状态,缓存承接推测访存并因此成为侧信道,SMT 让两个线程共享缓存与预测器,编译器则用 thunk 与索引掩码降低风险。
3.5 选型维度
| 场景 | 首选 | 理由 |
|---|---|---|
| 通用服务器 | 深推测 + 标准缓解 | 性能优先,按威胁模型加固 |
| 安全加固 | 限制推测 + 屏障 | 降低侧信道面 |
| 硬实时 | 关闭或受限推测 | 最坏执行时间可分析 |
| 多租户云 | 物理隔离 + 缓解 | 跨租户侧信道风险 |
3.6 决策规则
- 先确定威胁模型:本地攻击、跨租户攻击与物理攻击的缓解不同。
- 常数时间密码代码不应依赖推测屏障,而应从算法上消除秘密相关分支与访存。
- 屏障应放在真正需要切断推测的位置,全局滥用会显著降低性能。
3.7 替代方案对比
| 方案 | 优势 | 代价 | 适用 |
|---|---|---|---|
| 谓词执行 | 无控制推测 | 多做无用功 | 短分支、VLIW |
| 无分支代码 | 时序稳定 | 可能多算 | 密码学 |
| 顺序执行 | 无推测状态 | 延迟暴露 | 实时、嵌入式 |
| 软件流水 | 编译期重叠 | 依赖编译器 | 循环密集 |
3.8 何时不该用
- 硬实时系统不应让执行时间依赖预测历史。
- 安全关键代码不应把秘密放进分支条件或访存地址。
- 极小核若没有 ROB 与 checkpoint,推测无法安全回滚。
4 边界
4.1 典型故障
| 症状 | 根因 | 处理 |
|---|---|---|
| 越界读取无异常 | 推测越过边界检查 | 数组索引掩码、推测屏障 |
| 跨进程数据泄漏 | 预测器或缓存状态共享 | 隔离、IBRS、STIBP |
| 异常现场不精确 | 年轻指令未完全清空 | 统一 flush 路径 |
| 存储过早可见 | store 在提交前写缓存 | 提交后再写存储层次 |
| 恢复后结果错 | checkpoint 或 RAT 恢复错 | 校验快照与分支标签 |
4.2 反模式
| 做法 | 后果 | 替代 |
|---|---|---|
| 用推测保证正确性 | 换实现即出错 | 只把推测当性能优化 |
到处插入 lfence | 性能大幅下降 | 只在边界处切断推测 |
| 秘密参与分支或索引 | 侧信道可观测 | 常数时间写法 |
4.3 可观测信号
perf stat -e branch-misses,int_misc.recovery_cycles,machine_clears 看预测错误与清空;ls_machine_clears 看内存序违例;lscpu 的 vulnerabilities 与 dmesg 的 mitigations 看系统启用的缓解。恢复周期高说明推测经常失败,而不是推测不存在。
4.4 安全 / 性能 / 一致性边界
- 安全:推测的架构结果不可见,微架构副作用可见;Spectre v1 利用条件分支,v2 利用 BTB,Meltdown 利用异常抑制与乱序访存。
- 性能:推测把延迟藏进并行,但清空与缓解都有成本;越深的推测对预测准确率越敏感。
- 一致性:推测不改变架构内存序,store 提交顺序、fence 与一致性协议才是可见性的落点。