1 / 4概念
Runtime: Memory and GC
GC 的难点不在“有没有回收”,而在“停多久、用多少 CPU、什么时候把问题暴露出来”。判断标准不是记住收集器名字,而是能从一段 GC 日志说清这次暂停是年轻代回收、混合回收还是分配失败触发的。选错收集器很少直接崩,多数时候表现为尾延迟超标或容器被内核杀掉。
1 概念
1.1 一句话定义
运行时数据区是 JVM 按生命周期划分的一组内存区域,堆与元空间由自动内存管理负责,栈与程序计数器随线程生灭。GC 从根出发做可达性分析,把不可达对象占用的空间交还给分配器。
1.2 它解决什么问题
- 生命周期托管:对象何时释放由可达性决定,不需要手工
free。 - 分配足够快:TLAB 让分配退化成指针加法,正常情况下不进入慢路径。
- 分区降低暂停:分代与 region 化把一次大回收拆成多次小回收。
- 可设定预算:G1 能给出暂停目标,ZGC 把暂停压到与堆大小基本无关。
- 故障可定位:GC 日志、堆转储与支配树能把“内存涨了”变成“谁持有”。
1.3 不属于本页的内容
| 主题 | 去哪 |
|---|---|
| class 文件结构、加载器与元空间泄漏 | Class Loading |
| 解释执行、JIT、safepoint 与 JMM | JIT and Threads |
| 依赖版本与打包方式 | Build and Dependencies |
| 操作系统虚拟内存、页表与缺页 | Memory Management |
| 容器 limit/request 与 OOMKilled 处置 | Kubernetes |
| 连接池与线程池容量 | Concurrency Models |
1.4 关键术语
| 术语 | 含义 | 容易混淆的点 |
|---|---|---|
| 堆 | 对象实例的主要存放区 | 不是唯一的内存区 |
| 元空间 | 类元数据的存放区,位于本地内存 | 不是堆的一部分 |
| 直接内存 | ByteBuffer 等堆外缓冲 | 不受 -Xmx 限制 |
| 代码缓存 | JIT 编译产物的存放区 | 不是元空间 |
| TLAB | 线程本地分配缓冲 | 不是独立的分代 |
| 压缩 oops | 用 32 位偏移表示引用 | 不是压缩对象 |
| GC root | 可达性分析的起点 | 不是所有栈变量 |
| 分代假设 | 绝大多数对象朝生夕死 | 不是规范要求 |
| humongous | 超过 region 一半的大对象 | 不是老年代对象 |
2 机制
2.1 心智模型
一块堆、若干块堆外区域,加上一套从根出发的可达性判定。分配走 TLAB 快路径,回收走“标记可达、清掉其余”。收集器的差别只落在三处:在哪里暂停、暂停多久、愿意花多少 CPU 与内存做并发。
2.2 机制拆解
- 区域划分:堆、元空间、虚拟机栈、本地方法栈、程序计数器,堆外还有直接内存、代码缓存与 GC 自身的数据结构。
- 对象布局:对象头由 mark word 与类型指针组成,压缩 oops 开启时 12 字节,按 8 字节对齐,最小对象 16 字节。
- 分配路径:先在 TLAB 内做指针加法,TLAB 用完再走共享分配或触发年轻代回收,大对象直接进入 humongous region。
- 分代假设:新对象进 eden,活过一次回收进 survivor,达到年龄阈值晋升老年代;年轻代用复制,老年代用标记-清除或标记-整理。
- 跨代引用:用卡表与 remembered set 记录老年代指向年轻代的引用,避免每次年轻代回收都扫全堆。
- GC roots:活动线程的栈帧局部变量、静态字段、JNI 引用、同步监视器、JVM 内部引用,从这些点出发标记。
- 并发标记:三色标记配合增量更新或 SATB 处理标记期间的引用改写,漏标会导致对象被错误回收。
- G1 的混合回收:并发标记算出各 region 的存活比例,随后若干次 young 加部分 old region 的 mixed 回收逐步清空。
- ZGC 的并发整理:染色指针把标记位存在引用里,读屏障在访问时修正引用,relocation 与业务线程并发。
- Shenandoah 的转发指针:对象头里留转发地址,读屏障跟随转发,压缩过程不整体暂停。
2.3 完整枚举
运行时数据区:
| 区域 | 存放内容 | 生命周期 |
|---|---|---|
| 堆 | 对象实例与数组 | 随 JVM 进程 |
| 元空间 | 类元数据、方法字节码、常量池 | 随加载器卸载 |
| 虚拟机栈 | 栈帧、局部变量表、操作数栈 | 随线程 |
| 本地方法栈 | 本地方法调用帧 | 随线程 |
| 程序计数器 | 当前字节码偏移 | 随线程 |
| 直接内存 | ByteBuffer 等堆外缓冲 | 随缓冲对象或显式释放 |
| 代码缓存 | JIT 编译后的机器码 | 随 JVM,可被回收 |
收集器的完整集合:
| 收集器 | 分代与并发 | 典型暂停 | 适用 |
|---|---|---|---|
| Serial | 单线程 STW,年轻代与老年代各一套 | 数十到数百毫秒 | 小堆、单核、客户端 |
| ParNew | 多线程年轻代,常与 CMS 搭配 | 数十毫秒 | 已随 CMS 一起退场 |
| Parallel | 多线程 STW,吞吐优先 | 数百毫秒到秒级 | 批处理、离线计算 |
| CMS | 并发标记清除,已废弃 | 十到数百毫秒 | 仅存在于旧版本 |
| G1 | region 化、并发标记、混合回收 | 十到数百毫秒,可设目标 | 大多数服务端默认 |
| ZGC | 染色指针、并发标记与 relocation | 亚毫秒到数毫秒 | 大堆、低延迟 |
| Shenandoah | 并发压缩、转发指针 | 低暂停 | 低延迟备选 |
| Epsilon | 不回收 | 无 | 压测、性能实验 |
GC roots 的完整集合:
| 根 | 说明 |
|---|---|
| 栈帧局部变量 | 活动线程当前帧与调用链上的引用 |
| 静态字段 | 类变量引用的对象 |
| JNI 引用 | 本地代码持有的全局与局部引用 |
| 活动线程 | 线程对象本身是根 |
| 同步监视器 | 被 synchronized 持有的对象 |
| JVM 内部引用 | 系统类加载器、基本类型 Class、常驻异常等 |
2.4 关键数字与量级
| 指标 | 量级 | 说明 |
|---|---|---|
| 对象头 | 12–16 字节 | 压缩 oops 开启时为 12,整体按 8 字节对齐 |
| 压缩 oops 上限 | 堆约 32 GB | 超过后退回 8 字节引用 |
| G1 region | 1–32 MB | 2 的幂,约为堆的 1/2048 |
| humongous 阈值 | region 的一半 | 超过则占连续多个 region |
| 默认堆上限 | 物理内存的 1/4 | 容器内以 cgroup 限额为基数 |
| TLAB 大小 | eden 的约 1% | 自适应,随分配速率调整 |
| ZGC 暂停 | 亚毫秒到数毫秒 | 与堆大小基本无关 |
3 实践
3.1 最小示例
短命对象与大对象各出现一次,用一段日志把年轻代回收和 humongous 分配区分开。
import java.util.ArrayList;
import java.util.List;
public class Churn {
static final List<byte[]> KEEP = new ArrayList<>();
public static void main(String[] args) {
long bytes = 0;
for (int i = 0; i < 200_000; i++) {
byte[] tmp = new byte[512];
bytes += tmp.length;
if (i % 50_000 == 0) {
KEEP.add(new byte[1024 * 1024]);
}
}
System.out.println(bytes + " / " + KEEP.size());
}
}
javac Churn.java
java -Xms256m -Xmx256m -Xlog:gc*:file=gc.log:time,uptime,level,tags Churn
追踪:256 MB 堆下 G1 的 region 是 1 MB,humongous 阈值是 512 KB。tmp 是 512 字节的短命数组,累计分配约 100 MB,几乎都在 young 回收里消失,日志中堆占用呈锯齿状回落。KEEP 里的四个 1 MB 数组超过阈值,各占两个连续 region,日志把它们记在 humongous 区。KEEP 是静态字段、属于 GC root,所以这四个数组一路存活到进程结束,堆占用的基线因此抬高。
3.2 常用操作与参数
| 操作 | 命令 / 参数 | 说明 |
|---|---|---|
| 固定堆 | -Xms、-Xmx | 线上一般取同一值 |
| 按容器比例 | -XX:MaxRAMPercentage=75 | 比写死 -Xmx 更适合容器 |
| 选择收集器 | -XX:+UseG1GC / -XX:+UseZGC | 需与 JDK 版本匹配 |
| 暂停目标 | -XX:MaxGCPauseMillis=200 | G1 的软目标,不是保证 |
| GC 日志 | -Xlog:gc*:file=gc.log:time,uptime,level,tags | 统一日志框架,优于旧参数 |
| 堆转储 | -XX:+HeapDumpOnOutOfMemoryError | 再用 -XX:HeapDumpPath 指定落盘位置 |
| 直方图 | jcmd <pid> GC.class_histogram | 快速看对象数量排行 |
| 限制直接内存 | -XX:MaxDirectMemorySize=512m | 默认约等于堆上限 |
3.3 标准流程
- 先量基线与分配速率,写清现有堆、暂停分布与延迟目标。
- 按目标选收集器:默认 G1,大堆低延迟评估 ZGC,吞吐优先评估 Parallel。
- 定堆:容器限制减去元空间、直接内存、线程栈与代码缓存,再留 20%–30% 余量。
- 固定
-Xms与-Xmx,稳定负载下减少扩缩容抖动。 - 开 GC 日志与 JFR,压测时看 P99、P999 与暂停分布,不看平均值。
- 碰到 OOM 或占用只涨不降,先抓堆转储,再从支配树自上而下找持有者。
3.4 与相邻技术的组合
- 容器:堆上限要压在 cgroup 限额之下,否则先被内核杀掉,连堆转储都拿不到。
- 操作系统:透明大页、页缓存与 NUMA 都会影响分配延迟与回收暂停。
- 框架:缓存、连接池与会话表是常见的堆增长来源,容量上限比调参更有效。
- 序列化:大对象反序列化容易制造 humongous 分配,改为流式处理可减少暂停。
3.5 选型维度
| 维度 | 取值 | 影响 |
|---|---|---|
| 停顿预算 | 无上限 / 十毫秒级 / 亚毫秒级 | 决定 Parallel、G1 或 ZGC |
| 堆规模 | 小于 4 GB / 4–32 GB / 大于 32 GB | 大堆才轮到可扩展的低暂停收集器 |
| CPU 余量 | 宽裕 / 紧张 | 并发标记与并发整理都要抢核 |
| 存活比例 | 多数短命 / 多数长命 | 改变晋升速率与老年代压力 |
| 运行版本 | 8 / 11 / 17 / 21 | 默认收集器与可用特性不同 |
| 团队经验 | 熟悉 JVM / 只做业务 | 参数越多,误配越难排查 |
3.6 决策规则
- 没有明确延迟目标时先用默认 G1,不要一上来调十几个参数。
- 堆超过 32 GB 且要求毫秒级暂停时评估 ZGC,同时接受更高的 CPU 与内存开销。
- 批处理、离线计算以吞吐为先,Parallel 往往更简单。
- 容器内先按比例或显式值定下堆,再为非堆预留两到三成空间。
- 改参数之前先有基线,改完用同一组负载复测,并留下 GC 日志作证据。
3.7 替代方案对比
| 方案 | 优势 | 代价 | 适用 |
|---|---|---|---|
| Serial | 实现最简单,单线程跑完 | 全程 STW,多核闲置 | 单核小堆 |
| Parallel | 单位时间回收的对象最多 | 停顿随堆规模上升 | 吞吐型批处理 |
| G1 | 按区域挑选回收集合 | 记忆集与写屏障带来额外开销 | 通用在线服务 |
| ZGC | 停顿与堆规模解耦 | 需要更多 CPU 与地址空间 | 超大堆在线服务 |
| Shenandoah | 标记与压缩都并发 | 发行版支持不一致 | 低延迟的第二选择 |
| Epsilon | 完全没有回收动作 | 堆满即失败 | 分配速率测量 |
3.8 何时不该用
- 小堆、低流量服务不要为“先进”上 ZGC,默认 G1 或 Serial 更省心。
- 容器内存限额很紧时不要只调大
-Xmx,先算非堆与线程栈。 - 延迟不敏感、吞吐优先时不要用低暂停收集器去换吞吐。
4 边界
4.1 典型故障
| 症状 | 根因 | 处理 |
|---|---|---|
OutOfMemoryError: Java heap space | 分配撑爆堆,或存在泄漏 | 先抓堆转储沿支配树找持有者,再判断是否扩容 |
OutOfMemoryError: Metaspace | 动态生成类、加载器泄漏 | 限 -XX:MaxMetaspaceSize,查加载器数量 |
| 容器被 OOMKilled | 堆上限加非堆占用越过容器限额 | 压低堆,并显式限制直接内存与线程数 |
| 暂停突然变长 | humongous 分配或晋升失败 | 看日志的 humongous 行与老年代占用,调 region 或换收集器 |
| 年轻代回收变频繁 | 分配速率过高、eden 太小 | 提高分配效率或增大年轻代 |
OutOfMemoryError: Direct buffer memory | NIO 缓冲未释放 | 限 -XX:MaxDirectMemorySize,查引用链 |
| 堆没满却频繁 Full GC | 元空间或直接内存触顶,或显式 System.gc() | 查 -Xlog:gc* 的触发原因,去掉显式调用 |
4.2 反模式
| 做法 | 后果 | 替代 |
|---|---|---|
| 堆上限顶着容器限额 | 非堆一涨就被 OOMKilled | 堆只占限额的七到八成 |
业务代码调用 System.gc() | 停顿时机不再由收集器掌握 | 交给收集器按需决策 |
| 无界缓存 | 堆持续上涨直到 OOM | 容量上限加过期策略 |
用 finalizer 做清理 | 回收时机不确定 | try-with-resources 或 Cleaner |
4.3 可观测信号
GC 日志的暂停时长、触发原因、晋升量与 humongous 分配,JFR 的分配采样与 GC 事件,jcmd 的类直方图与 VM 内存摘要,容器侧的 RSS 与 OOMKilled 计数,以及应用 P99 与错误率的变化。
4.4 安全 / 性能 / 一致性边界
- 回收边界:可达性只管对象,文件句柄、连接与堆外缓冲都要显式关闭。
- 暂停边界:暂停时间由收集器策略与线程到达 safepoint 的延迟共同决定。
- 容器边界:JVM 自认的上限要与 cgroup 限额对齐,否则终止进程的是内核而不是 JVM。
- 一致性边界:堆转储是某一时刻的快照,分析结论要结合日志时间轴,不能单独定案。