1 / 4概念
Async
Java 的异步有三代载体:线程池加 Future、CompletableFuture 的回调组合、虚拟线程的轻量阻塞;响应式流则单独解决背压。选型的关键不是「哪个更先进」,而是等待发生在哪里、由谁承担成本。
1 概念
1.1 一句话定义
异步是把等待从调用线程移走:用 CompletableFuture 表示尚未完成的结果并用组合子表达后续,用虚拟线程让阻塞式代码保持同步写法,用响应式流把「生产速度」与「消费速度」解耦。
1.2 它解决什么问题
- 避免线程被 I/O 阻塞:网络与磁盘等待期间,载体线程可以去处理别的任务。
- 组合远程调用:多个独立调用可以并发发起,再合并结果或取最先返回者。
- 降低阻塞成本:虚拟线程让「一请求一线程」在高并发下仍然可行。
- 提供背压:响应式流由订阅者按需请求,防止快生产者压垮慢消费者。
- 隔离故障:不同依赖使用不同执行器,慢依赖不会拖垮全局。
异步不会减少总工作量,它只改变等待的位置与成本;如果瓶颈是 CPU,换任何异步模型都不会更快。
1.3 不属于本页的内容
| 主题 | 去哪 |
|---|---|
锁、内存模型、happens-before 与原子类 | Concurrency Models |
| HTTP 客户端、连接池与 Web 容器配置 | Spring Boot |
| 异常传播、抑制与领域错误 | Error |
| 指标、追踪与线程池监控 | Observability |
| 线程栈、调度器与 JFR 事件 | JVM Runtime |
| 响应式 Web 栈与 R2DBC | Spring Boot |
1.4 关键术语
| 术语 | 含义 | 容易混淆的点 |
|---|---|---|
Future | 尚未完成的结果句柄 | get() 会阻塞,且异常被包装 |
CompletableFuture | 可组合、可手动完成的 Future | 不是响应式流,没有背压 |
| 虚拟线程 | JVM 调度的轻量线程 | 不是协程语法,代码仍是阻塞写法 |
| 载体线程 | 承载虚拟线程的平台线程 | 数量等于调度器并行度 |
| 公共池 | ForkJoinPool.commonPool() | 默认并行度是核数减一 |
| 背压 | 消费者告知生产者「慢一点」 | CompletableFuture 没有这个能力 |
| 发布者 / 订阅者 | 响应式流的两个端点 | request(n) 才真正触发数据流 |
| 取消 | 请求停止执行 | 不响应中断的代码无法被取消 |
2 机制
2.1 心智模型
等待必须有载体。 平台线程池用「有限载体 + 队列」承接等待,队列满了就排队或拒绝;虚拟线程把载体与任务解耦,阻塞时卸载,载体去跑别的虚拟线程;事件循环用少量载体跑非阻塞回调,靠 request(n) 控制流量。三种模型解决的是同一个问题,代价分别落在内存、调度与编程复杂度上。
2.2 机制拆解
CompletableFuture链:supplyAsync把任务提交到执行器,thenApply做同步转换,thenCompose扁平化嵌套,thenCombine合并两个结果。- 回调线程:不带
Async后缀的组合子可能由完成线程执行,带后缀的才提交到指定执行器;重活必须显式指定执行器。 - 异常路径:
exceptionally只处理异常并给默认值,handle同时看结果与异常,whenComplete只观测不改变结果。 - 默认执行器:
*Async不传执行器时使用ForkJoinPool.commonPool(),阻塞任务会占满公共池并影响全局。 - 虚拟线程调度:虚拟线程由 JVM 调度到载体线程,遇到阻塞 I/O 时卸载;默认调度器并行度等于 CPU 核数。
- 虚拟线程成本:栈存在堆上、按需增长,创建成本远低于平台线程;不要池化,按任务创建即可。
- 响应式流:
Publisher按request(n)推送,onNext/onError/onComplete三态结束;操作符负责切换调度器与合并流。 - 取消语义:
Future.cancel(true)发送中断;CompletableFuture.cancel只把结果标记为取消,不会中断底层任务;响应式的cancel向上游传播。
2.3 完整枚举
异步载体只有这几类:
| 载体 | 并发模型 | 背压 | 取消 | 适用 |
|---|---|---|---|---|
| 平台线程池 | 有限线程加队列 | 无,靠队列 | 中断 | 低并发阻塞任务 |
CompletableFuture | 回调组合 | 无 | 有限 | 并行调用与结果合并 |
| 虚拟线程 | 海量线程,JVM 调度 | 无 | 中断 | 高并发阻塞 I/O |
| 响应式流 | 事件循环加按需拉取 | 有 | 向上游传播 | 流式处理、网关 |
| 结构化并发 | 作用域内并行子任务 | 无 | 作用域取消 | 请求内多依赖聚合 |
执行器工厂也是固定集合:
| 工厂方法 | 线程数 | 队列 | 风险 |
|---|---|---|---|
newFixedThreadPool(n) | 固定 n | 无界 LinkedBlockingQueue | 任务堆积到 OOM |
newCachedThreadPool() | 按需,空闲 60 s 回收 | SynchronousQueue | 线程数失控 |
newScheduledThreadPool(n) | 固定 n | 延迟队列 | 长任务阻塞定时 |
newWorkStealingPool() | 按 CPU 核数 | 每线程双端队列 | 阻塞任务降低并行度 |
newVirtualThreadPerTaskExecutor() | 每任务一个虚拟线程 | 无 | 下游连接池被打满 |
2.4 关键数字与量级
| 指标 | 量级 | 说明 |
|---|---|---|
| 平台线程栈 | 1 MB | 1000 个线程约 1 GB 栈空间 |
| 虚拟线程栈 | 数百字节起,按需增长 | 存在堆上,百万级虚拟线程可行 |
| 公共池并行度 | CPU 核数 - 1 | 阻塞任务会拖垮全局默认执行器 |
| 虚拟线程调度器并行度 | CPU 核数 | 默认 ForkJoinPool,可用系统属性调整 |
| 固定池默认队列 | Integer.MAX_VALUE | 无界队列是 OOM 的常见来源 |
| 默认空闲回收 | 60 s | 超过核心数的线程空闲后回收 |
| I/O 超时 | 100 ms–5 s 常见 | 必须显式设置,不能依赖默认无限等待 |
| 响应式默认请求 | 无界 | request(Long.MAX_VALUE) 等于放弃背压 |
| 取消生效时间 | 取决于阻塞点 | 不响应中断的调用无法真正停止 |
3 实践
3.1 最小示例
一个文件里演示组合、allOf、异常回退与虚拟线程执行器:
import java.util.List;
import java.util.concurrent.CompletableFuture;
import java.util.concurrent.Executors;
public final class AsyncDemo {
static String load(String id) { return "load:" + id; }
static String enrich(String value) { return value + "!"; }
public static void main(String[] args) throws Exception {
try (var pool = Executors.newVirtualThreadPerTaskExecutor()) {
var futures = List.of("a", "b", "c").stream()
.map(id -> CompletableFuture.supplyAsync(() -> load(id), pool)
.thenApply(AsyncDemo::enrich))
.toList();
var all = CompletableFuture.allOf(futures.toArray(CompletableFuture[]::new));
System.out.println(all.thenApply(v -> futures.stream()
.map(CompletableFuture::join).toList()).join());
var failed = CompletableFuture.<String>supplyAsync(() -> {
throw new IllegalStateException("boom");
}, pool).exceptionally(e -> "fallback:" + e.getCause().getMessage());
System.out.println(failed.join());
}
}
}
java AsyncDemo.java 运行。allOf 只等待全部完成,不携带结果,所以还要 join() 逐个取值;exceptionally 拿到的是包装后的异常,真实原因在 getCause() 里;try-with-resources 关闭执行器时会等待任务结束,这正是结构化收尾的意义。
把 pool 换成不传执行器的 supplyAsync,任务会落到公共池;在公共池里做阻塞 I/O,同一 JVM 里其他依赖公共池的并行流会一起变慢。
3.2 常用操作与参数
| 目的 | 写法 | 说明 |
|---|---|---|
| 提交有返回值的任务 | CompletableFuture.supplyAsync(fn, executor) | 显式传执行器,别用公共池 |
| 扁平化嵌套 | thenCompose(id -> loadAsync(id)) | thenApply 会得到 Future<Future<T>> |
| 合并两个结果 | thenCombine(other, this::merge) | 任一失败则整体失败 |
| 等待全部 | CompletableFuture.allOf(a, b, c) | 需要结果时再逐个 join |
| 取最先返回 | CompletableFuture.anyOf(a, b) | 其余任务不会自动取消 |
| 超时 | orTimeout(2, TimeUnit.SECONDS) | 超时后以 TimeoutException 完成 |
| 虚拟线程 | Thread.ofVirtual().start(task) | 不要池化;按任务创建 |
| 结构化并发 | StructuredTaskScope | 预览 API,注意版本差异 |
| 响应式组合 | Flux.merge、Mono.zip | 背压由订阅者 request 驱动 |
3.3 标准流程
- 先定位阻塞点:CPU、磁盘、网络还是锁;只有 I/O 等待才值得异步化。
- 选载体:低并发用线程池,高并发阻塞用虚拟线程,需要背压才上响应式。
- 所有远程调用设置连接与读取超时,再叠加整体超时。
- 每个依赖独立执行器或连接池,避免慢依赖拖垮全局。
- 取消路径写测试:超时、中断、下游失败三种情况都要覆盖。
3.4 与相邻技术的组合
- Spring MVC:虚拟线程开启后,阻塞式控制器可以保持同步写法,连接池成为新的瓶颈。
- Spring WebFlux:响应式栈从头到尾不能有阻塞调用,一个
block()就能拖住事件循环。 - JDBC 与 R2DBC:JDBC 是阻塞 API,配虚拟线程;R2DBC 才适合响应式链路。
- HTTP 客户端:
HttpClient支持同步与异步两种发送方式,异步版返回CompletableFuture。 - 可观测:Micrometer 的上下文传播把 traceId 带过线程边界,替代手工
ThreadLocal。
3.5 选型维度
| 维度 | 平台线程池 | CompletableFuture | 虚拟线程 | 响应式流 |
|---|---|---|---|---|
| 阻塞容忍 | 低 | 中 | 高 | 极低 |
| 背压 | 无 | 无 | 无 | 有 |
| 取消语义 | 中断 | 有限 | 中断 | 向上游传播 |
| 调试成本 | 低 | 中 | 低 | 高 |
| 迁移成本 | 低 | 中 | 低 | 高 |
| 适合场景 | 后台任务 | 聚合调用 | 高并发 I/O | 流式与网关 |
3.6 决策规则
- 代码是阻塞式的、并发量高,用虚拟线程,不要重写成响应式。
- 需要并行调用多个依赖并合并结果,用
CompletableFuture加显式执行器。 - 需要端到端背压(流式、网关、大文件),才引入响应式栈。
- CPU 密集型任务不要指望虚拟线程,线程数不应超过核数。
- 每个远程调用都必须有超时;没有超时的异步等于资源泄漏。
3.7 替代方案对比
| 方案 | 优势 | 代价 | 适用 |
|---|---|---|---|
线程池加 Future | 简单、生态成熟 | 线程昂贵、无组合能力 | 低并发后台任务 |
CompletableFuture | 组合灵活、JDK 内置 | 无背压、异常易丢 | 并行调用聚合 |
| 虚拟线程 | 保持同步写法、成本低 | 无背压、需新 JDK | 高并发阻塞 I/O |
| 响应式流 | 背压与流式处理 | 学习曲线陡、调试难 | 网关、流处理 |
3.8 何时不该用
- CPU 密集型任务不要用异步包装,线程切换只会增加开销。
- 并发很低的内部工具,同步阻塞代码更简单,别提前抽象。
- 团队没有响应式经验时,不要为了「先进」引入
Flux,维护成本会反噬。 - 需要背压却选了
CompletableFuture,最终只能靠有界队列兜底。 - 不要在响应式链路里调用阻塞 JDBC,事件循环会被一个查询拖死。
4 边界
4.1 典型故障
| 症状 | 根因 | 处理 |
|---|---|---|
| 公共池被占满,全站变慢 | *Async 未指定执行器,阻塞任务进了 commonPool | 为阻塞任务配置专用执行器 |
| 内存持续上涨后 OOM | 固定池配无界队列,任务无限堆积 | 有界队列加拒绝策略或背压 |
| 异常无声消失 | CompletableFuture 未 join/get,异常留在结果里 | 统一在边界 join 并处理异常 |
| 超时后下游仍在执行 | 只做了客户端超时,没有取消请求 | 超时与取消联动,传递中断 |
| 取消不生效 | 任务不响应中断或在阻塞调用中 | 使用可中断 API,检查中断标志 |
| 上下文丢失 | ThreadLocal/MDC 不跨线程 | 显式传递或用上下文传播库 |
| 响应式链路卡死 | 在事件循环里调用了阻塞方法 | 切到 boundedElastic 或改阻塞栈 |
| 虚拟线程被钉住 | JDK 21 的 synchronized 块内阻塞 | 升级 JDK 24+ 或改用 ReentrantLock |
4.2 反模式
| 做法 | 后果 | 替代 |
|---|---|---|
用 commonPool 跑阻塞 I/O | 拖垮同 JVM 的所有并行流 | 专用执行器或虚拟线程 |
thenApply 里做远程调用 | 阻塞完成线程,链路串行化 | thenCompose 加异步执行器 |
嵌套 Future 不扁平化 | 类型变成 Future<Future<T>> | thenCompose |
在响应式流里 block() | 事件循环死锁或吞吐骤降 | 全链路非阻塞,或换栈 |
| 池化虚拟线程 | 失去轻量优势,还可能泄漏 | 每任务创建,用完即弃 |
4.3 可观测信号
- 线程:活跃线程数、虚拟线程数量、载体线程利用率、
jdk.VirtualThreadPinned事件。 - 队列:执行器队列长度、拒绝次数、任务等待时间;队列持续增长就是过载信号。
- 延迟:端到端耗时、各依赖耗时、超时率与重试率。
- 响应式:
request(n)的 demand 分布、onNext速率、订阅数与取消数。
4.4 安全 / 性能 / 一致性边界
- 安全边界:安全上下文与租户信息不会自动跨线程,异步任务必须显式传递;
ThreadLocal在线程复用时可能把上一个请求的数据带给下一个。 - 性能边界:异步只改变等待位置,CPU 工作与总延迟不会减少;虚拟线程适合 I/O,不适合计算;上下文切换与调度仍有成本。
- 一致性边界:事务绑定在线程上,异步分支不会自动加入同一事务;取消与超时是「尽力而为」,下游可能已经执行。
- 资源边界:线程池、连接池与队列三者必须一起定容,任何一项无界都会把压力转移到最弱的一环。