1 / 4概念
Simultaneous Multithreading
SMT 让一个物理核在同一周期从多个线程上下文取指,用别人的独立工作填满自己停下的发射槽。它复制寄存器与程序计数器,却共享执行单元、缓存与重排序缓冲。因此它提升吞吐而非单线程延迟,也把多个安全域放进同一组微架构状态。
1 概念
1.1 一句话定义
SMT 是在一个物理核上同时维持多个线程上下文,并在每个周期从其中任选可发射的指令填满同一套执行资源的微架构技术。Intel 称 Hyper-Threading,AMD 称 SMT2,两者都是每核两个上下文。
1.2 它解决什么问题
- 发射槽浪费:宽发射核在依赖、缓存缺失与分支误预测时空转,单线程的 ILP 填不满。
- 面积效率:复制一份架构状态即可多出一路吞吐,代价远低于再造一个物理核。
- 延迟隐藏:一个线程等内存时,另一个线程继续占用执行单元,每指令能耗随之下降。
1.3 不属于本页的内容
| 主题 | 去哪 |
|---|---|
| 流水线冒险、转发与停顿 | Pipelining |
| 分支预测与推测执行 | Instruction-Level Parallelism |
| 多核拓扑、LLC 共享与环互连 | Multicore Organization |
| 缓存一致性、内存序与核间同步 | Memory Hierarchy |
1.4 关键术语
| 术语 | 含义 | 容易混淆的点 |
|---|---|---|
| SMT | 单核内多线程上下文并发 | 不是多核,也不复制执行单元 |
| 线程上下文 | 一套架构状态的副本 | 不是软件线程,由 OS 独立调度 |
| 逻辑处理器 | OS 看到的一个可调度 CPU | 不等于一个物理核 |
| TMT | 时间多线程,按周期或按块切换 | 任一时刻只有一个线程在跑 |
| 核心调度 | 让同信任域线程共享一个物理核 | 不是绑核,仍可迁移 |
2 机制
2.1 心智模型
把一个物理核想成有多个灶台的厨房,线程上下文是多张订单。 SMT 让不同订单同时占用空闲灶台,冰箱与出菜窗口仍然共用。订单越多出菜越快,但单张订单不一定更快,且大家都能看到同一个冰箱。
2.2 机制拆解
- 状态复制:程序计数器、通用寄存器、控制寄存器与 APIC ID 每线程一份,因此每个逻辑处理器能被独立中断与调度。
- 资源共享:重排序缓冲、保留站、load/store 队列、执行单元、L1 与 L2、TLB、分支预测器全部共用。
- 取指策略:轮流取指、按优先级取指或带反饥饿的混合策略;单线程长期独占时会被压低配额。
- 提交语义:每周期按依赖与端口约束从任一上下文选 uop,提交仍按各自的重排序缓冲顺序,保证单线程语义。
2.3 完整枚举
| 资源 | SMT 的处理 | 影响 |
|---|---|---|
| 架构状态 | PC、通用寄存器、控制寄存器每线程复制 | 逻辑处理器可独立执行与中断 |
| 重排序缓冲与保留站 | 共享 | 一个线程的停顿挤占另一个线程 |
| load/store 队列 | 共享 | 访存密集时互相阻塞 |
| 物理寄存器堆 | 物理共享,逻辑按线程映射 | 线程数增加但寄存器压力上升 |
| 执行单元与发射端口 | 共享 | 端口饱和时收益趋零 |
| L1、L2 与 LLC | 共享 | 工作集互相挤占,邻居噪声出现 |
| TLB 与分支预测器 | 共享,TLB 按 PCID 区分 | 大页可缓解竞争,历史互相干扰 |
2.4 关键数字与复杂度
| 指标 | 量级 | 说明 |
|---|---|---|
| 每核线程数 | 2;POWER8 与 SPARC T 系列为 8 | x86 长期停在 2 |
| 双线程吞吐提升 | 1.1–1.3 倍 | 取决于端口占用与工作集 |
| 单线程 IPC 下降 | 0–40% | 计算密集时最明显 |
| 面积与功耗开销 | 面积约 5%,功耗约 10–20% | 只复制架构状态 |
3 实践
3.1 最小示例
lscpu -e=CPU,CORE,SOCKET,NODE,MAXMHZ
cat /sys/devices/system/cpu/cpu0/topology/thread_siblings_list
taskset -c 0 perf stat -e cycles,instructions ./app
taskset -c 0,1 perf stat -e cycles,instructions ./app
cat /sys/devices/system/cpu/smt/active
thread_siblings_list 给出同核兄弟。先用一个逻辑 CPU 跑出 ST 基线,再让两个兄弟同时跑同一负载;第二个 taskset 的 0 与 1 必须同核,否则测的是两个物理核。若双线程吞吐不到单线程的 1.1 倍,说明执行端口或缓存已经饱和,SMT 只是在增加排队。
3.2 常用操作与参数
| 操作 | 命令 | 说明 |
|---|---|---|
| 看每核线程数 | lscpu | 读 Thread(s) per core |
| 看逻辑 CPU 映射 | lscpu -e | CPU 与 CORE 列对照 |
| 看兄弟线程 | cat /sys/devices/system/cpu/cpu0/topology/thread_siblings_list | 同核列表 |
| 关闭 SMT | echo off > /sys/devices/system/cpu/smt/control | 需要 root,影响全局 |
| 频率与功耗 | turbostat | 看每逻辑 CPU 的 Bzy_MHz |
3.3 标准流程
- 读出拓扑并关闭 Turbo 干扰,确认哪些逻辑 CPU 是兄弟。
- 测单线程延迟与吞吐,得到 ST 基线。
- 让两个兄弟跑同一负载,计算收益 = 双线程吞吐 ÷ 单线程吞吐。
- 收益小于 1.1 或多租户有风险时,关闭 SMT 或改用核心调度隔离。
3.4 与相邻技术的组合
与绑核、NUMA 与核心调度组合:两个兄弟绑不同线程,避免两个线程落到同一逻辑 CPU;先按 socket 分片,再在片内使用兄弟线程;同信任域线程用核心调度共享一个物理核,不与邻居混跑。
3.5 选型维度
| 负载 | SMT | 理由 |
|---|---|---|
| 高并发 Web 与 API | 开 | 请求独立,延迟容忍度高 |
| 数据库 OLTP | 视情况 | 大缓冲池下收益低,尾延迟变差 |
| HPC 计算密集 | 关 | 浮点端口已饱和 |
| 多租户容器 | 关或核心调度 | 侧信道与邻居噪声 |
3.6 决策规则
- 先看单线程是否已把执行端口用满;收益应按吞吐度量,不按单线程延迟度量。
- 线程数少于物理核数时,宜关闭 SMT 以减少争用。
- 跨信任边界时应假设共享微架构状态可被观测。
3.7 替代方案对比
| 方案 | 优势 | 代价 | 适用 |
|---|---|---|---|
| SMT | 面积小、吞吐提升 | 单线程变慢、共享风险 | 吞吐型通用负载 |
| 多核 CMP | 扩展线性、隔离好 | 面积与功耗翻倍 | 并行任务与多租户 |
| 时间多线程 | 实现简单、行为可预测 | 不填满发射槽 | 嵌入式与网络处理器 |
3.8 何时不该用
- 单线程延迟是唯一指标时,SMT 没有收益。
- 工作集超过 LLC 且内存带宽饱和时,SMT 只增加排队。
- 多租户、机密计算与强合规场景,应默认关闭或使用核心调度。
4 边界
4.1 典型故障
| 症状 | 根因 | 处理 |
|---|---|---|
| 双线程吞吐不升 | 执行端口饱和或缓存争用 | 关 SMT,复测单线程 |
| 尾延迟抖动 | 邻居线程抢占 ROB 与 LLC | 绑核、核心调度、隔离 |
| 把兄弟当两核 | 未核对 CORE 列 | 按物理核计容量 |
| 虚拟机性能差 | vCPU 落在同一物理核的兄弟上 | 核对 vCPU 与 pCPU 映射 |
4.2 反模式
| 做法 | 后果 | 替代 |
|---|---|---|
| 用逻辑 CPU 数做容量规划 | 高估算力 | 按物理核计 |
| 拿关闭 SMT 的基线对比生产 | 结论无效 | 固定开关再比 |
4.3 可观测信号
lscpu 的 Thread(s) per core;smt/active 的开关状态;lscpu -e 的 CORE 列;perf stat -A 下两兄弟的 IPC 差;turbostat 的 Bzy_MHz 与 PkgWatt;perf c2c 的 HITM。先确认两个逻辑 CPU 是否同核,再谈收益。
4.4 安全 / 性能 / 一致性边界
- 性能:SMT 提升吞吐,单线程 IPC 下降;收益从负值到 1.3 倍,取决于端口占用。
- 安全:L1TF、MDS、TAA 一类问题让共享缓冲可跨线程泄露,多租户宜关闭。
- 一致性:SMT 不改变 ISA 的内存模型,但共享 ROB 与队列会改变时序与公平性。