1 / 4概念
Page Faults and Working Set
页错误是页表项缺失或权限不符时硬件抛出、由 OS 补齐映射的异常。工作集是进程在一段时间窗口内真正引用过的页集合,它决定缺页率与内存是否够用。读完应能区分 minor 与 major 两类错误,并用工作集而不是 RSS 判断换页压力。
1 概念
1.1 一句话定义
页错误是翻译失败时由硬件触发、由内核补齐映射的陷入;工作集是进程在一个时间窗口内实际引用过的页集合。
1.2 它解决什么问题
- 按需装入:物理内存只装正在用的页,进程启动与建立映射都不必等待全部读入。
- 超配与回收:OS 可以承诺大于物理内存的地址空间,靠缺页与回收兑现承诺。
- 容量判断:所有进程的工作集之和决定内存是否够用,缺页率是它的直接信号。
1.3 不属于本页的内容
| 主题 | 去哪 |
|---|---|
| 页表结构与 PTE 位 | hw-paging-page-tables |
| TLB 缺失与失效 | hw-tlb |
| 分配器、回收与换页策略 | os-memory-management |
1.4 关键术语
| 术语 | 含义 | 容易混淆的点 |
|---|---|---|
| minor fault | 页已在内存,只缺映射 | 不是小错误,仍要陷入内核 |
| major fault | 需要 I/O 才能装入 | 不一定读盘,可能命中页缓存 |
| COW | 写时复制,共享页在写时分裂 | 不是共享内存 |
| 工作集 | 时间窗口内被引用的页集合 | 不是 RSS |
| 抖动 | 缺页率高到 CPU 空转 | 不是单纯的内存不足 |
2 机制
2.1 心智模型
把缺页想成一次懒加载:先给地址留位,真正的页在第一次触碰时才填。 内存够用时缺页是廉价的补齐;工作集超过物理内存时,缺页变成持续的换入换出,机器看起来很忙却没有推进。
2.2 机制拆解
- 检测:MMU 发现表项无效或权限不符,把出错地址写入
CR2,带着错误码抛出异常。 - 分类:表项为空且地址落在合法区间是 minor 或 major;权限不符是保护错误;地址不在任何区间则转成信号。
- 处理:内核查 VMA,分配页框或发起读入,填表项并置位,返回后重试同一条指令。
- 近似 LRU:硬件在访问时置
A位、写入时置D位,OS 用它们判断冷热与是否需要写回。 - 批量:文件缺页会顺带映射邻近若干页,读入按预读窗口成批进行,减少陷入次数。
2.3 完整枚举
| 类型 | 触发条件 | 典型延迟 | 结果 |
|---|---|---|---|
| minor | 页在内存,表项缺失 | 约 1 µs | 建立映射 |
| major | 页不在内存,需读入 | 50 µs–10 ms | 读入后建立映射 |
| COW | 写共享只读页 | 约 1 µs | 复制页并改权限 |
| 保护错误 | 权限位不符 | 约 1 µs | 信号或内核修正 |
| 无效地址 | 不在任何 VMA 内 | 约 1 µs | SIGSEGV |
2.4 关键数字与复杂度
| 指标 | 量级 | 说明 |
|---|---|---|
| minor fault | 0.5–2 µs | 无 I/O,只改页表 |
| major fault(NVMe) | 50–150 µs | 含 I/O 与调度 |
| major fault(HDD) | 5–10 ms | 寻道时间主导 |
| fault-around 窗口 | 默认 64 KiB | 一次缺页映射 16 个 4 KiB 页 |
3 实践
3.1 最小示例
# 比较冷启动与预热后的缺页,区分 minor 与 major。
/usr/bin/time -v ./app 2>&1 | grep -E 'faults|Maximum resident'
perf stat -e page-faults,minor-faults,major-faults ./app
grep -E 'pgfault|pgmajfault' /proc/vmstat
首次运行的 major fault 包含读入与建表;预热后同一负载应只剩少量 minor fault。两次 perf stat 的差值就是缓存与页表预热带来的收益。
3.2 常用操作与参数
| 操作 | 命令 | 说明 |
|---|---|---|
| 看进程缺页 | /usr/bin/time -v | 退出时给出 minor 与 major |
| 看实时计数 | perf stat -e page-faults | 与 cycles 一起看才有意义 |
| 看内核计数 | cat /proc/vmstat | 关注 pgfault 与 pgmajfault 的趋势 |
| 看内存压力 | cat /proc/pressure/memory | some 与 full 的平均占比 |
3.3 标准流程
- 用
time -v与perf stat建立 minor 与 major 的基线。 - 首次运行 major 偏多属正常冷启动;稳定运行仍多则查换页与回收。
- 比较工作集与可用内存,确认是容量不足还是访问模式问题。
- 容量不足时先改访问模式(分块、复用),再考虑加内存或换大页。
- 尾延迟敏感的服务宜预映射并锁住关键页,把缺页移出请求路径。
3.4 与相邻技术的组合
- TLB 与页表:缺页补的是页表项,TLB 缺失补的是缓存项;两者都会让一次访问变慢。
- OS 与 cgroup:预读、回收与
memory.max共同决定缺页频率,限额越接近工作集,回收越频繁。
3.5 选型维度
| 维度 | 取值 | 影响 |
|---|---|---|
| 装入时机 | 按需、MAP_POPULATE、启动预热 | 冷启动时间与运行期抖动 |
| 页大小 | 4 KiB、2 MiB | 缺页次数与内部碎片 |
| 回收策略 | LRU、时钟、按 cgroup 限额 | 工作集能否常驻 |
3.6 决策规则
- 稳定运行仍持续 major fault,应先确认是否真的超出可用内存。
- 启动阶段宜一次性预映射热数据,把缺页从关键路径移到初始化。
- cgroup 限额接近工作集时应留出余量,否则回收会把 minor 升级成 major。
3.7 替代方案对比
| 方案 | 优势 | 代价 | 适用 |
|---|---|---|---|
| 按需分页 | 内存利用率高、启动快 | 运行期抖动 | 通用负载 |
| 预分配并锁页 | 延迟确定 | 内存占用固定 | 实时、数据库 |
| 用户态管理内存 | 完全可控 | 需自建分配与换入 | DPDK 类负载 |
3.8 何时不该用
- 硬实时路径不应依赖按需分页,缺页延迟没有上界。
- 数据库已有自己的缓冲池时,再让 OS 缓存同一份数据会双重占用内存。
4 边界
4.1 典型故障
| 症状 | 根因 | 处理 |
|---|---|---|
| 机器很忙但吞吐低 | 抖动,缺页与回收占满 CPU | 减小工作集或加内存 |
| 首请求延迟高 | 冷启动集中 major fault | 预热、预映射 |
| 写入后大量 minor fault | COW 分裂 | 减少 fork 后立即写,改用线程 |
| 进程被 OOM 杀死 | 超配叠加限额 | 调 memory.max、限制并发 |
4.2 反模式
| 做法 | 后果 | 替代 |
|---|---|---|
| 用 RSS 判断工作集 | RSS 含已不再访问的页 | 看 Referenced 与缺页率 |
全量 mlock | 挤压其他进程、触发 OOM | 只锁关键页 |
| 在请求路径首次触碰大数组 | 尾延迟尖刺 | 启动预热、分块预取 |
4.3 可观测信号
/proc/vmstat 的 pgfault、pgmajfault 与 pgscan_*;/proc/pressure/memory 的 some 与 full;perf stat 的 page-faults;/usr/bin/time -v 的 minor 与 major;/proc/<pid>/smaps_rollup 的 Rss 与 Referenced。先分清是容量不足、访问模式差,还是回收过激。
4.4 安全 / 性能 / 一致性边界
- 安全:缺页路径是权限检查的落点,W^X 与栈保护靠它强制;缺页时序也是侧信道的观测面。
- 性能:minor 是微秒级,major 是几十微秒到毫秒级,尾延迟几乎总由 major 决定。
- 一致性:COW 与共享映射改页表后必须失效 TLB,否则某个核会继续用旧映射写入。