1 / 4概念
Service Mesh
服务网格把服务间通信从应用代码里抽出来,交给一组可统一配置的 L7 代理。判断标准不是“要不要上 mesh”,而是多语言、mTLS、灰度、重试和观测这些横切需求,是否已经大到值得多一层基础设施。
1 概念
1.1 一句话定义
服务网格是一层基础设施:数据面代理拦截服务之间的网络流量,控制面把路由、安全、重试和观测策略下发到这些代理,应用只负责业务逻辑。
1.2 它解决什么问题
- 多语言统一:Java、Go、Node 服务用同一套 mTLS、重试和指标,不必每个 SDK 各写一遍。
- 零信任:服务间默认加密并校验身份,而不是只靠集群网络边界。
- 灰度与流量切分:按权重、Header、用户群把流量导到不同版本。
- 统一观测:所有请求都有 L7 指标、访问日志和 trace 上下文。
没有 mesh,以上能力要么重复实现,要么散落在不同语言的库里,行为和排错方式都不一致。
1.3 不属于本页的内容
| 主题 | 去哪 |
|---|---|
| 集群外南北向入口与 API 网关 | Load Balancing、Application Protocols |
| 容器编排与 Pod 生命周期 | Kubernetes |
| 应用内超时、重试与熔断 | 本页 § 4.4 与微服务页面 |
| CNI、网络策略与底层路由 | Kubernetes 网络与 CNI |
1.4 关键术语
| 术语 | 含义 | 容易混淆的点 |
|---|---|---|
| Data plane | 实际转发流量的代理集合 | 不是控制面 |
| Control plane | 下发配置、证书和策略的组件 | 不转发业务流量 |
| Sidecar | 与业务 Pod 同生命周期的代理容器 | 不是独立网关 |
| Ambient | 用节点级代理替代每 Pod sidecar 的模式 | 不是“无代理” |
| Istiod | Istio 的控制面 | 不是数据面 |
| mTLS | 双向 TLS,双方都验证证书 | 不是普通 TLS |
| VirtualService | 路由规则 | 不是 Service |
| DestinationRule | 目标子集、负载均衡、连接池 | 不是路由匹配 |
2 机制
2.1 心智模型
所有服务间流量都走“应用容器 → 本地代理 → 对端代理 → 应用容器”。控制面只写配置,数据面执行配置;身份由证书承载,策略由代理在每次连接/请求上执行。应用看到的是普通 TCP/HTTP,mesh 看到的是可路由、可加密、可观测的 L7 流。
2.2 机制拆解
- 注入:命名空间或 Pod 注解触发 sidecar 注入;Pod 启动时业务容器与代理共享网络命名空间。
- 流量劫持:iptables 或 eBPF 把出入流量重定向到代理;代理按监听端口识别协议。
- 配置下发:控制面监听 Kubernetes Service/Endpoint/CRD,转换成 xDS 推给 Envoy;配置最终一致,不是瞬间生效。
- 身份与加密:控制面签发工作负载证书(SPIFFE ID),代理之间完成 mTLS 握手并轮换证书。
- 路由:VirtualService 匹配 host/path/header,DestinationRule 定义 subset、负载均衡和连接池。
- 韧性:超时、重试、熔断、异常点驱逐在代理侧执行;重试必须配合预算,避免放大故障。
- 观测:代理生成 L7 指标、访问日志和 trace span,应用无需为每次调用埋点。
2.3 完整枚举
| 能力 | 成员 | 关键属性 | 适用 |
|---|---|---|---|
| 流量管理 | 路由、权重、Header 匹配、镜像、故障注入 | 按请求/连接生效 | 灰度、A/B、演练 |
| 安全 | mTLS、PeerAuthentication、AuthorizationPolicy、JWT | 身份到工作负载 | 零信任、租户隔离 |
| 韧性 | 超时、重试、熔断、连接池、异常点驱逐 | 代理侧执行 | 依赖不稳定 |
| 观测 | L7 指标、访问日志、分布式追踪、拓扑 | 统一标签 | 多语言排障 |
核心控制面组件:
| 组件 | 职责 | 失败表现 |
|---|---|---|
| istiod | 服务发现、配置转换、证书签发 | 新配置不下发,旧代理仍可运行 |
| Citadel(旧版本) | 证书签发与轮换 | 新 Pod 无法建立 mTLS |
2.4 关键数字与量级
| 指标 | 量级 | 说明 |
|---|---|---|
| Sidecar CPU | 50–200 m | 随 QPS、连接数和日志量增长 |
| 每跳延迟 | 1–3 ms | 多一层代理的典型开销 |
| 配置传播 | 秒级 | 不是即时;灰度要等生效 |
| 重试预算 | 10%–20% | 超过会把下游打穿 |
3 实践
3.1 最小示例
apiVersion: networking.istio.io/v1beta1
kind: VirtualService
metadata: {name: checkout}
spec:
hosts: [checkout]
http:
- route:
- destination: {host: checkout, subset: stable}
weight: 90
- destination: {host: checkout, subset: canary}
weight: 10
timeout: 2s
retries: {attempts: 2, perTryTimeout: 500ms, retryOn: 5xx,reset,connect-failure}
---
apiVersion: networking.istio.io/v1beta1
kind: DestinationRule
metadata: {name: checkout}
spec:
host: checkout
trafficPolicy:
connectionPool: {http: {http2MaxRequests: 100, maxRequestsPerConnection: 10}}
outlierDetection: {consecutive5xxErrors: 5, interval: 30s, baseEjectionTime: 30s}
subsets:
- {name: stable, labels: {version: stable}}
- {name: canary, labels: {version: canary}}
3.2 常用操作与参数
| 操作 | 命令 / API | 说明 |
|---|---|---|
| 配置体检 | istioctl analyze -n prod | 发现引用错误、冲突和缺失 |
| 看代理同步 | istioctl proxy-status | STALE/NOT SENT 表示配置未下发 |
| 看拓扑 | Kiali / Grafana mesh dashboard | 服务间流量、错误率和延迟 |
3.3 标准流程
- 先列横切需求:mTLS、灰度、重试、统一指标,哪些应用侧真的做不了。
- 小范围启用:一个命名空间、一个非核心服务,观察延迟与资源开销。
- 开 permissive mTLS,确认所有调用方都有身份,再切 strict。
- 用 VirtualService 做 1%→10%→50% 的灰度,每步看错误率和 P99。
- 配超时与重试预算;重试只对幂等请求开启。
- 把 L7 指标接入现有 SLO,不要另建一套 dashboard。
- 演练控制面不可用、证书轮换失败、sidecar 未注入。
3.4 与相邻技术的组合
- Kubernetes:mesh 依赖 Service/Endpoint 做服务发现,Pod 生命周期决定 sidecar 生命周期。
- 可观测性:代理补 L7 指标与 trace,但业务语义和 SLO 仍由应用负责。
- 负载均衡:南北向入口通常由 Gateway/LB 承担,mesh 管东西向。
- 安全:mTLS 解决传输身份,授权策略解决“谁能调谁”,不等于业务权限。
3.5 选型维度
| 维度 | 取值 | 影响 |
|---|---|---|
| 服务数量 | 少 / 多 | 少时 mesh 的固定成本占比高 |
| 语言栈 | 单一 / 多语言 | 多语言收益最大 |
| 运行环境 | Kubernetes / VM / 混合 | 非 K8s 支持较弱 |
| 安全要求 | 普通 / 零信任 | mTLS 与授权是核心驱动力 |
3.6 决策规则
- 服务少、单语言、无 mTLS 要求:先用库/SDK,不要上 mesh。
- 多语言 + 零信任 + 灰度:mesh 的收益最大。
- 延迟极敏感(高频交易、实时游戏):先算每跳 1–3 ms 是否可接受。
- 没有平台团队:选托管 mesh 或 Linkerd 这类更轻的方案。
- 只需要南北向入口:用 Gateway/Ingress,不要为入口上全量 mesh。
- 需要 L4 加密与网络策略:先评估 Cilium/eBPF,不一定要 L7 mesh。
3.7 替代方案对比
| 方案 | 优势 | 代价 | 适用 |
|---|---|---|---|
| Istio | 功能最全、生态大 | 复杂、资源开销高 | 多语言、强安全 |
| Linkerd | 轻量、易运维 | 功能少于 Istio | 中小集群 |
| Cilium Service Mesh | eBPF、L3/L4 强 | L7 能力与生态较新 | 云原生网络 |
| 应用 SDK | 无额外代理、延迟低 | 多语言重复实现 | 单语言、小团队 |
| Ingress/Gateway only | 简单、成熟 | 只有南北向 | 入口治理 |
3.8 何时不该用
- 只有几个服务、单语言:库级别的重试/指标更便宜。
- 团队没有 Kubernetes 平台能力:mesh 的故障面会超过收益。
- 延迟预算是硬约束:每跳代理和 mTLS 握手都要计入。
- 只需要入口灰度:Ingress/Gateway 足够。
4 边界
4.1 典型故障
| 症状 | 根因 | 处理 |
|---|---|---|
| Pod 启动但没有 sidecar | 命名空间未开注入或注解覆盖 | 检查 inject label/annotation 与 webhook |
| 调用报 503,上游无健康实例 | subset 标签不匹配、端点为空 | 看 DestinationRule subset 与 Endpoints |
| mTLS 握手失败 | 一端 strict、一端无证书,或时钟/证书过期 | 先 permissive 迁移;检查证书与时间 |
| 重试把下游打垮 | 重试次数过多、无预算、非幂等 | 降 attempts,加预算,只重试幂等请求 |
| 超时不生效 | 应用/代理/LB 多层超时不一致 | 统一各层超时,代理超时略小于上游 |
| 控制面挂掉后配置不变 | 代理保留最后一次配置 | 旧配置可运行,但新 Pod/证书会失败 |
4.2 反模式
| 做法 | 后果 | 替代 |
|---|---|---|
| 用 mesh 替代应用超时 | 业务线程仍可能被慢调用占满 | 应用侧也设超时与隔离 |
| 全局无脑重试 | 故障放大、雪崩 | 重试预算 + 幂等 + 熔断 |
| 把授权全交给 mesh | 业务权限模型缺失 | 认证在 mesh,授权仍在应用 |
4.3 可观测信号
istio_requests_total的 response_code / destination_service:L7 错误率。istio_request_duration_milliseconds:P50/P99 与上游/下游分解。pilot_xds_pushes/proxy-status:配置是否同步。
4.4 安全 / 性能 / 一致性边界
- 安全:mTLS 只证明“谁在连接”,不证明“该请求是否有权”;授权策略要单独设计。
- 性能:每跳代理增加延迟与资源;高 QPS 服务要单独压测。
- 一致性:配置是最终一致;灰度切流后要等生效并观察,不要假设瞬时。
- 故障域:控制面故障不应阻断已有数据面,但会影响新 Pod、证书轮换和配置变更。