1 / 4概念
TLB
TLB 把页表项缓存在核内,让热路径的地址翻译只花一次查表。它决定虚拟内存能否接近物理内存的速度,也决定改页表与切进程的真实成本。读完应能用覆盖范围、缺失率与失效次数解释一次翻译开销,而不是只看命中率一个数字。
1 概念
1.1 一句话定义
TLB 是按虚拟页号索引、缓存页表项(页框号加权限位)的小型相联结构,坐在 MMU 的翻译快路径上。
1.2 它解决什么问题
- 摊薄遍历:把一次翻译从 4 次访存压到 1 次查表,热路径几乎免费。
- 支撑虚拟内存:没有 TLB,每次访存都要多走几级内存,分页在性能上不可用。
- 缓存权限:权限位随表项一起缓存,翻译与访问检查在同一步完成。
1.3 不属于本页的内容
| 主题 | 去哪 |
|---|---|
| 页表结构、PTE 位与大页 | hw-paging-page-tables |
| 缺页处理与工作集 | hw-page-fault-working-set |
| 嵌套翻译与 VPID | hw-virtualization-support |
1.4 关键术语
| 术语 | 含义 | 容易混淆的点 |
|---|---|---|
| TLB 项 | 一条缓存的翻译,含页框号与权限 | 不是缓存行 |
| ASID / PCID | 项上标记的地址空间号 | 不是进程号,可被复用 |
| 全局页 | 切换地址空间时保留的项 | 不是大页 |
| 覆盖范围 | 项数乘页大小 | 不是命中率 |
2 机制
2.1 心智模型
把 TLB 想成翻译的旁路缓存:命中就跳过页表,缺失才让遍历器走一趟并把结果填回来。 它只有几十到几千项,所以“能覆盖多少地址”比“命中率多高”更能解释现场行为。
2.2 机制拆解
- 结构与命中:L1 TLB 项数少、相联度高,STLB 项数多、组相联;页号与项并行比较,命中即取页框号并同时查权限。
- 缺失与填充:x86 与 ARM 由硬件遍历页表并回填;MIPS 与 SPARC 由异常处理程序软件填充。
- 地址空间标签:ASID 或 PCID 让不同进程的项共存,切换地址空间时不必清空整张 TLB。
- 失效:单页用
INVLPG,换地址空间写CR3;跨核必须发 IPI 让每个核执行失效,即 shootdown。
2.3 完整枚举
| 层级 | 典型项数 | 覆盖(4 KiB 页) | 覆盖(2 MiB 页) | 命中延迟 |
|---|---|---|---|---|
| L1 dTLB | 64 | 256 KiB | 128 MiB | 约 1–4 周期 |
| L1 iTLB | 64–128 | 256–512 KiB | 128–256 MiB | 约 1–4 周期 |
| L2 STLB | 约 1.5 K | 约 6 MiB | 约 3 GiB | 再加约 7 周期 |
| 页表遍历器 | 1–2 个并发 | 无 | 无 | 100–400 ns |
2.4 关键数字与复杂度
| 指标 | 量级 | 说明 |
|---|---|---|
| L1 TLB 项数 | 64–128 | 项少,靠高相联度压低冲突 |
| STLB 项数 | 1 K–2 K | x86 服务器常见 1536 |
| 覆盖范围 | 256 KiB–3 GiB | 项数乘页大小;2 MiB 页覆盖 512 倍面积 |
| 一次 shootdown | 1–10 µs | 核多、页多时线性上升 |
3 实践
3.1 最小示例
# 比较 4 KiB 与 2 MiB 页的翻译缺失,并看跨核失效的计数。
perf stat -e dTLB-load-misses,dTLB-loads ./random-walk 512M
echo never | sudo tee /sys/kernel/mm/transparent_hugepage/enabled
perf stat -e dTLB-load-misses,dTLB-loads ./random-walk 512M
grep -E 'TLB' /proc/interrupts
缺失率是两行输出中 misses 与 loads 的比值。关掉大页后项数不变而覆盖缩小,缺失率上升;/proc/interrupts 的 TLB 行暴涨,说明页表正被频繁改写。
3.2 常用操作与参数
| 操作 | 命令 | 说明 |
|---|---|---|
| 看缺失率 | perf stat -e dTLB-load-misses,dTLB-loads | 比值比绝对值有用 |
| 看遍历完成数 | perf stat -e dtlb_load_misses.walk_completed | Intel 事件,缺失一次遍历一次 |
| 看跨核失效 | grep TLB /proc/interrupts | shootdown 的 IPI 计数 |
3.3 标准流程
- 先算工作集的地址跨度,与 TLB 覆盖比较,判断是否结构性不足。
- 测缺失率与遍历完成数,区分“缺 TLB 项”与“缺页表项”。
- 跨度大时启用 2 MiB 大页,复测缺失率与内存占用。
- 页表改写频繁时合并失效区间,进程切换频繁时确认 PCID 已生效。
3.4 与相邻技术的组合
- 页表:层级越深,缺失代价越高;大页同时减少项数与遍历次数。
- OS 与虚拟化:
mprotect、munmap触发失效;嵌套翻译让一次缺失变成多轮遍历。
3.5 选型维度
| 维度 | 取值 | 影响 |
|---|---|---|
| 页大小 | 4 KiB、2 MiB、1 GiB | 覆盖面积与内部碎片 |
| 地址空间标签 | ASID、PCID | 切换时是否清空 TLB |
| 填充方式 | 硬件遍历、软件填充 | 缺失延迟与页表格式自由度 |
3.6 决策规则
- 随机访问跨度远超覆盖时,应先上大页,再谈算法与数据结构。
- 热路径频繁改权限的应用宜合并区间,把多次 shootdown 收成一次。
- 线程数远多于核数时应确认 PCID 生效,否则每次切换都在刷整张 TLB。
3.7 替代方案对比
| 方案 | 优势 | 代价 | 适用 |
|---|---|---|---|
| 硬件遍历加 TLB | 缺失由硬件处理,延迟低 | 页表格式被固定 | x86、ARM |
| 软件填充 TLB | 页表结构自由 | 缺失走异常,代价高 | MIPS、SPARC |
| MPU 区间检查 | 无翻译、时序确定 | 区间数少、无虚拟内存 | 实时 MCU |
3.8 何时不该用
- 顺序扫描一遍即弃的数据不必为大页改造,预取的收益更直接。
- 内存紧张时大页会放大碎片,不宜默认全量开启。
- 硬实时任务不宜承受运行期 shootdown,应在初始化阶段完成全部映射。
4 边界
4.1 典型故障
| 症状 | 根因 | 处理 |
|---|---|---|
| 缺失率高、延迟抖动 | 工作集超过 TLB 覆盖 | 大页、分块、改善局部性 |
| 多核扩展差 | 页表改写引发 shootdown 风暴 | 合并失效、减少 mprotect |
| 读到旧映射 | 改页表后未失效对应项 | 补 INVLPG 或整表刷新 |
| 虚拟机内明显更慢 | 嵌套遍历放大缺失代价 | 大页加 VPID/ASID |
4.2 反模式
| 做法 | 后果 | 替代 |
|---|---|---|
| 只看命中率不看覆盖 | 把结构问题误判为算法问题 | 结合跨度与缺失率判断 |
每次系统调用都重写 CR3 | 无谓清空热项 | 启用 PCID 保留项 |
在热路径 munmap | 失效与缺页叠加 | 复用映射池 |
4.3 可观测信号
dTLB-load-misses 与 dTLB-loads 的比值;dtlb_load_misses.walk_completed;/proc/interrupts 的 TLB 行;/proc/vmstat 的 thp_fault_alloc 与 thp_split_page;/proc/meminfo 的 AnonHugePages。先分清是覆盖不足、失效过多,还是页表项本身缺失。
4.4 安全 / 性能 / 一致性边界
- 安全:TLB 的时序与项状态可被观测,KPTI 的代价正来自每次进出内核都要换地址空间并刷新翻译。
- 性能:覆盖范围是结构性上限,缺失率只是结果;调优应先扩覆盖,再降缺失。
- 一致性:改了页表而不 shootdown,其他核可能长期读到旧翻译,这是正确性问题而不是性能问题。