1 / 4概念
Performance Testing
性能测试回答的是容量问题,不是“感觉快不快”。一次测试的价值取决于负载模型、阈值和结果解释;没有这三样,压测只会产出一张好看的平均值截图。
1 概念
1.1 一句话定义
性能测试用受控的负载模型驱动系统,测量吞吐、延迟、错误率和资源饱和度,并对照预先定义的阈值判断系统是否满足容量目标。负载模型描述“谁、以什么节奏、发什么请求”,阈值描述“什么算通过”。
1.2 它解决什么问题
- 上线前不知道系统能扛多少并发,只能等故障告诉你。
- 改了一行代码,尾延迟变差但没有基线,无法判断是否回归。
- 压测只报平均值,P99 已经严重超标却没人发现。
- 容量规划靠拍脑袋,扩容时机总是太晚或太早。
性能测试把“容量”变成可重复、可比较的数字;它不能证明系统没有性能问题,只能证明在某个负载模型下满足阈值。
1.3 不属于本页的内容
| 主题 | 去哪 |
|---|---|
| 功能正确性与用户旅程 | End-to-End Testing |
| 组件接缝与契约 | Integration Testing |
| 可观测性三件套 | Fault Tolerance & Observability |
| 数据库索引与执行计划 | Databases |
| 容器资源限制与调度 | Containers & Cloud Native |
1.4 关键术语
| 术语 | 含义 | 容易混淆的点 |
|---|---|---|
| 负载模型 | 用户数、到达率、思考时间、请求分布 | 不是脚本本身 |
| VU | 虚拟用户,闭模型中的并发单位 | 不等于真实用户 |
| RPS | 每秒请求数 | 不是并发数 |
| P95/P99 | 95%/99% 请求的延迟上界 | 不是平均值 |
| 吞吐 | 单位时间完成的请求数 | 受饱和点限制 |
| 饱和 | 资源利用率接近上限,延迟非线性上升 | 不是“CPU 100% 才算” |
| 思考时间 | 两次请求之间的停顿 | 影响并发与 RPS 的关系 |
| 协调遗漏 | 压测工具因排队而少发请求 | 会让尾延迟看起来更好 |
| 基准测试 | 固定条件下的可比较测量 | 不是容量测试 |
| 容量测试 | 找系统在阈值内的最大负载 | 不是单点基准 |
2 机制
2.1 心智模型
Little 定律:并发数 = 到达率 × 平均停留时间。它把“多少用户”和“多少 RPS”连起来:如果每个请求 200 ms,100 RPS 就需要约 20 个并发在途请求。系统吞吐不会无限增长;接近饱和时,延迟会非线性上升。
另一个不变量:看分位数,不看平均值。平均值会掩盖长尾;用户感知的是 P95/P99,不是 P50。
2.2 机制拆解
- 定义目标:基准、容量、回归还是故障注入。
- 建负载模型:用户分布、请求比例、思考时间、数据分布。
- 写脚本:参数化、关联、断言、事务边界。
- 预热:JIT、连接池、缓存、自动扩缩容稳定。
- 按阶段加压:ramp-up → 稳态 → ramp-down;记录每个阶段的指标。
- 对照阈值:错误率、P95/P99、吞吐、饱和度;不达标就定位瓶颈。
- 复跑:同环境、同数据、同脚本,确认结果可重复。
2.3 完整枚举
| 测试类型 | 目的 | 负载形状 | 关注指标 |
|---|---|---|---|
| 冒烟压测 | 脚本与链路可用 | 1–5 VU | 错误率、基本延迟 |
| 基准测试 | 固定条件下比较版本 | 固定 RPS/VU | P50/P95、吞吐 |
| 负载测试 | 预期峰值下是否达标 | 稳态 + 峰值 | P95/P99、错误率 |
| 压力测试 | 找饱和点与崩溃边界 | 逐步加压 | 饱和点、恢复时间 |
| 尖峰测试 | 突发流量 | 瞬时陡增 | 错误率、排队、恢复 |
| 浸泡测试 | 长时间稳定性 | 中高负载数小时 | 内存泄漏、连接泄漏 |
| 容量测试 | 阈值内最大负载 | 阶梯加压 | 最大 RPS、余量 |
| 负载模型 | 控制量 | 特点 | 适用 |
|---|---|---|---|
| 闭模型 | 并发 VU 数 | 响应慢时自动少发 | 传统压测 |
| 开模型 | 到达率 RPS | 响应慢也照发 | 更接近真实流量 |
2.4 关键数字与量级
| 指标 | 量级 | 说明 |
|---|---|---|
| 稳态时长 | 5–15 分钟 | 覆盖缓存与 GC 周期 |
| 预热时长 | 1–5 分钟 | 避免冷启动污染 |
| 采样粒度 | 1–10 秒 | 太粗会丢尖峰 |
| 错误率阈值 | < 0.1%–1% | 按业务容忍度 |
| P99 目标 | 业务 SLA 决定 | 不要用平均值替代 |
| 浸泡时长 | 2–24 小时 | 查泄漏与退化 |
3 实践
3.1 最小示例
// k6:开模型到达率 + 分阶段 + 阈值;阈值不达标即失败。
import http from 'k6/http';
import {check} from 'k6';
export const options = {
scenarios: {
steady: {
executor: 'ramping-arrival-rate',
startRate: 10,
timeUnit: '1s',
preAllocatedVUs: 20,
maxVUs: 200,
stages: [
{target: 50, duration: '2m'},
{target: 50, duration: '5m'},
{target: 0, duration: '1m'},
],
},
},
thresholds: {
http_req_failed: ['rate<0.01'],
http_req_duration: ['p(95)<300', 'p(99)<800'],
},
};
export default function () {
const res = http.get('https://staging.example.com/api/orders?limit=20');
check(res, {
'status is 200': (r) => r.status === 200,
'body is json': (r) => String(r.headers['Content-Type']).includes('application/json'),
});
}
3.2 常用操作与参数
| 操作 | 命令 / API | 说明 |
|---|---|---|
| 跑 k6 | k6 run load.js | 本地或 CI |
| 输出摘要 | --summary-export summary.json | 保留原始分位数 |
| 分布式压测 | k6 operator / 多实例 | 单机网络/CPU 会成为瓶颈 |
| JMeter 非 GUI | jmeter -n -t plan.jmx -l result.jtl | CI 中禁用 GUI |
| 生成报告 | k6 report / JMeter HTML | 看分位数与错误分布 |
| 关联监控 | Prometheus/Grafana | 对齐压测时间窗 |
3.3 标准流程
- 写清目标:要回答“能不能扛 500 RPS”还是“比上个版本慢了多少”。
- 选模型:真实流量用开模型;模拟固定用户用闭模型。
- 准备独立环境与数据,避免压测污染生产。
- 先冒烟,再基准,再容量;每次只改一个变量。
- 对照阈值和饱和度定位瓶颈:CPU、内存、连接池、锁、下游。
- 保存脚本、数据、环境和结果,保证可复跑。
3.4 与相邻技术的组合
- 可观测性:压测时间窗内的 CPU、GC、连接池、下游延迟必须一起看。
- 容量规划:用容量测试结果推扩容阈值和告警线。
- CI:基准测试可做趋势门禁,但不要在每个 PR 跑满容量。
- 故障注入:在负载下注入下游延迟,验证超时与降级。
3.5 选型维度
| 维度 | 取值 | 影响 |
|---|---|---|
| 目标 | 基准 / 容量 / 回归 | 决定负载形状与阈值 |
| 协议 | HTTP / gRPC / WebSocket | 决定工具与脚本 |
| 流量真实性 | 合成 / 回放 | 回放更真实但脱敏成本高 |
| 环境 | 独立 / 共享 | 共享环境噪声大 |
| 团队技能 | JS / JMeter / Scala | 决定工具选择 |
| 运行位置 | 本地 / CI / 分布式 | 决定成本与规模 |
3.6 决策规则
- 只做版本对比:固定 RPS 的基准测试,别看最大容量。
- 要容量数字:阶梯加压到阈值,记录最大 RPS 与余量。
- 要排查长尾:开模型 + 高采样率 + 分位数,不用平均值。
- 要查泄漏:浸泡测试,观察内存/连接/文件描述符。
- 生产压测:必须有熔断、限流、回滚和业务方确认。
3.7 替代方案对比
| 方案 | 优势 | 代价 | 适用 |
|---|---|---|---|
| k6 | JS 脚本、CI 友好、阈值内建 | 生态较新 | HTTP/gRPC/WebSocket |
| JMeter | 生态成熟、GUI | 重、脚本维护成本高 | 传统企业压测 |
| Gatling | Scala DSL、报告好 | 学习曲线 | 高并发 HTTP |
| Locust | Python、易扩展 | 性能依赖实现 | 自定义协议 |
| 生产流量回放 | 最真实 | 脱敏、隔离、风险高 | 大促前验证 |
3.8 何时不该用
- 没有基线、没有阈值:结果无法判断,只是数字。
- 环境与生产差异巨大:结论不可迁移。
- 没有瓶颈假设:压测会变成盲目加压。
- 生产环境无保护:可能直接把线上打挂。
- 只测平均值:会掩盖长尾,误判容量。
4 边界
4.1 典型故障
| 症状 | 根因 | 处理 |
|---|---|---|
| 压测结果异常好 | 协调遗漏或缓存命中 | 开模型 + 清缓存 + 看真实分位数 |
| P99 很高但平均正常 | 只看平均值 | 按分位数和错误分布分析 |
| 加压后吞吐不升反降 | 进入饱和/排队 | 找瓶颈资源,降载或扩容 |
| 结果不可复现 | 环境/数据/预热不同 | 固定环境、数据、脚本 |
| 压测机先饱和 | 工具/网络成为瓶颈 | 分布式压测、监控压测机 |
| 内存持续上涨 | 泄漏/连接未释放 | 浸泡测试 + 堆/连接分析 |
| 尖峰时错误率飙升 | 无排队/限流/降级 | 背压、限流、队列上限 |
| 阈值通过但用户体验差 | 阈值定得太松 | 按 SLO 重定阈值 |
4.2 反模式
| 做法 | 后果 | 替代 |
|---|---|---|
| 只报平均响应时间 | 掩盖长尾 | P50/P95/P99 + 错误率 |
| 用闭模型测开放流量 | 低估真实压力 | 开模型/到达率 |
| 压测前不清缓存 | 结果偏乐观 | 冷/热缓存分别测 |
| 共享环境压测 | 噪声不可控 | 独立环境 |
| 无阈值只看图 | 无法判定通过 | 预先定义阈值 |
4.3 可观测信号
RPS、P50/P95/P99、错误率、超时率、CPU/内存/GC、连接池等待、队列长度、下游延迟、饱和度。压测报告必须带时间窗和资源图,不能只给一行汇总。
4.4 安全 / 性能 / 一致性边界
- 安全:生产压测要有审批、限流、熔断和回滚;测试数据脱敏。
- 性能:压测机、网络和被测系统不能共享瓶颈;否则测的是压测机。
- 一致性:压测写入会产生真实副作用;用隔离环境或只读/沙箱数据。
- 解释:结果只对当前负载模型、数据分布和环境成立,不能外推到所有场景。