1 / 4概念
Consensus & Replication
共识让一组副本对“同一个值或同一条日志的顺序”达成一致,复制再把这条顺序应用到确定的状态机上。没有它,节点故障时只能二选一:丢写,或者让两个主节点同时接受写。
1 概念
1.1 一句话定义
共识协议在存在崩溃和网络分区的异步系统中,让多数派就一个提案达成一致;复制协议把达成一致的日志按序应用到每个副本,使它们从相同初始状态走到相同最终状态。
1.2 它解决什么问题
- 单点故障:主节点宕机后,系统仍能在多数派存活时继续写。
- 脑裂:网络分区时,只有拿到多数派的一侧能提交,避免双写。
- 日志分歧:旧主节点的未提交尾项会被新主节点截断,不会静默保留。
- 可线性化:已完成写对后续读可见,读不会退回旧值。
- 成员变更:集群扩容/缩容时仍保持同一份配置和同一个提交顺序。
没有共识,以上问题只能靠人工切换或接受数据丢失;人工切换本身又依赖一个可信的协调者。
1.3 不属于本页的内容
| 主题 | 去哪 |
|---|---|
| 消息队列的投递语义与消费组 | Messaging & Events |
| 数据库事务、隔离级别与 MVCC | Transactions & Concurrency |
| 指标、日志、追踪与告警 | Fault Tolerance & Observability |
| 进程调度、内存与文件系统 | Operating Systems |
1.4 关键术语
| 术语 | 含义 | 容易混淆的点 |
|---|---|---|
| Quorum | 超过半数(⌊N/2⌋+1)的副本集合 | 不是“任意一台副本” |
| Term | Raft 的逻辑任期,单调递增 | 不是墙上时钟 |
| Commit index | 已被多数派持久化、可应用的日志位置 | 不是 leader 本地最后一条 |
| Apply | 把已提交日志交给状态机执行 | 不是“写入日志”本身 |
| Linearizability | 每个操作看起来在调用与返回之间原子生效 | 不是“最终一致” |
| Safety | 不会产生两个不同的提交值 | 与 liveness 分开判断 |
| Liveness | 多数派存活且网络最终恢复时能继续推进 | 分区期间不保证 |
| Fencing token | 单调递增的令牌,阻止旧主继续写 | 不是租约本身 |
2 机制
2.1 心智模型
复制状态机 = 确定性状态机 + 全序日志。只要所有副本应用相同的日志前缀,它们就得到相同状态。共识只负责为每个日志位置选出一个值;多数派的任意两个集合必然相交,相交的副本记住已提交的位置,所以新 leader 不会覆盖已提交项。
2.2 机制拆解
- Leader election:follower 在随机化的 election timeout 后成为 candidate,term+1,向所有节点发 RequestVote;拿到多数派选票成为 leader。随机超时降低分票概率。
- Log replication:leader 收到写请求后追加本地日志,向 follower 发 AppendEntries;follower 校验
prevLogIndex/prevLogTerm后追加。leader 用matchIndex推进nextIndex,多数派复制成功的最高位置成为 commit index。 - Commit 与 apply:只有当前 term 的日志通过多数派提交后,之前的日志才随之提交;apply 必须按 index 顺序,不能跳项。
- Read:默认读 leader 可能读到旧值(旧 leader 尚未得知自己已被替代)。线性一致读要么走 lease(在租约有效期内 leader 确信自己仍是 leader),要么发 ReadIndex 并等待本地 applyIndex 追上。
- Membership change:一次只改一个节点,使用 joint consensus 或单节点变更;旧配置与新配置的多数派必须同时满足,避免两个不相交的多数派。
- Snapshot:日志无限增长会拖慢启动与复制;对状态机做快照并截断前缀,follower 落后太多时用 InstallSnapshot 追赶。
2.3 完整枚举
Raft 的消息与职责:
| 分类 | 成员 | 关键属性 | 适用 |
|---|---|---|---|
| 选举消息 | RequestVote / RequestVoteResponse | term、candidateId、lastLogIndex、lastLogTerm | 选主 |
| 复制消息 | AppendEntries / AppendEntriesResponse | term、prevLogIndex、prevLogTerm、entries、leaderCommit | 日志复制与心跳 |
| 快照消息 | InstallSnapshot / InstallSnapshotResponse | lastIncludedIndex、lastIncludedTerm、data | 落后副本追赶 |
| 预投票 | PreVote / PreVoteResponse | 不增加 term,先探测能否当选 | 避免分区节点反复抬 term |
| 客户端 | Propose / ReadIndex / Barrier | 写提案、线性一致读、读屏障 | 读写入口 |
| 成员变更 | AddNode / RemoveNode / JointConfig | 新旧配置双多数派 | 扩缩容 |
一致性模型:
| 模型 | 保证 | 典型实现 | 代价 |
|---|---|---|---|
| Linearizable | 读写都像单机原子对象 | Raft/Paxos + quorum read | 跨地域延迟高 |
| Sequential | 所有进程看到同一顺序,但不要求实时 | 单 leader 日志 | 读可能落后 |
| Read-your-writes | 同一客户端读到自己刚写的值 | 会话粘滞、read index | 跨会话不保证 |
| Eventual | 停止写入后副本最终一致 | gossip、CRDT | 窗口内不一致 |
2.4 关键数字与量级
| 指标 | 量级 | 说明 |
|---|---|---|
| 选举超时 | 150–300 ms | Raft 论文的常见起点,需大于往返抖动 |
| 心跳间隔 | 50–100 ms | 通常为选举超时的 1/3 到 1/10 |
| 3 副本容错 | 1 台 | 多数派为 2 |
| 5 副本容错 | 2 台 | 多数派为 3 |
| 写提交延迟 | 1 个 RTT + fsync | 跨地域时 RTT 主导 |
3 实践
3.1 最小示例
// 写路径骨架:多数派持久化后才推进 commit 并 apply。
func (n *Node) Propose(cmd []byte) error {
if n.role != Leader { return ErrNotLeader }
entry := n.log.Append(n.currentTerm, cmd)
if !n.replicateToMajority(entry.Index) { return ErrNoQuorum }
n.commitIndex = entry.Index
n.applyCommitted()
return nil
}
3.2 常用操作与参数
| 操作 | 命令 / API | 说明 |
|---|---|---|
| 查看成员 | etcdctl member list -w table | 确认节点 ID、peer URL、learner 状态 |
| 查看健康 | etcdctl endpoint health --cluster | 每个 endpoint 的可达性与耗时 |
| 查看状态 | etcdctl endpoint status --cluster -w table | leader、term、raftIndex、dbSize |
| 写入 | etcdctl put /config/region cn-north | 走 leader,多数派提交后返回 |
| 成员变更 | etcdctl member add name --peer-urls=... --learner | 一次只加一个,先 learner 再提升 |
3.3 标准流程
- 先确定一致性目标:线性一致、顺序一致还是最终一致;不要默认上共识。
- 选副本数:生产至少 3;跨 3 可用区时通常 5 副本,容错 2。
- 给选举超时留出网络抖动余量,并开启 PreVote 避免分区节点抬 term。
- 每次写都等多数派 fsync;读先明确走 leader lease 还是 ReadIndex。
- 日志与快照都要监控;快照失败会让恢复时间失控。
- 成员变更一次一个,并用故障演练验证杀 leader、断网、慢盘、时钟跳变和半数以下存活。
3.4 与相邻技术的组合
- WAL / 存储引擎:共识只决定日志顺序,日志持久化仍依赖 WAL 与 fsync。
- 状态机:业务状态机必须确定性;随机数、当前时间等要在日志里固化。
- 可观测性:leader 变更、term、commit/apply 差距是排查共识问题的第一组指标。
3.5 选型维度
| 维度 | 取值 | 影响 |
|---|---|---|
| 一致性要求 | 线性一致 / 顺序 / 最终 | 决定是否必须多数派提交 |
| 故障模型 | 崩溃 / 分区 / 拜占庭 | 拜占庭需要 BFT,成本高一个量级 |
| 部署范围 | 单机房 / 多可用区 / 跨地域 | RTT 直接决定写延迟 |
| 写吞吐 | 低 / 中 / 高 | 共识是串行日志,吞吐受 leader 与 fsync 限制 |
3.6 决策规则
- 需要“不丢写、不双写、读不倒退”:用 Raft/Paxos,不要用主从异步复制。
- 只在单机房内:3 副本足够;跨 3 个可用区:5 副本更稳。
- 读远多于写且能接受轻微陈旧:follower read + 版本/租约边界。
- 只需要最终合并:CRDT 或 gossip,不要为每个写付共识成本。
- 已有托管服务(etcd、Consul、ZooKeeper、数据库自带共识):优先托管,别自研。
- 自研协议前先证明:业务真的需要线性一致,而不是“主从 + 人工切换”。
3.7 替代方案对比
| 方案 | 优势 | 代价 | 适用 |
|---|---|---|---|
| Raft | 易理解、成员变更清晰、生态成熟 | 串行日志,跨地域写延迟高 | 元数据、配置、协调服务 |
| Multi-Paxos | 理论成熟、leader 稳定后高效 | 工程实现与成员变更复杂 | 大规模存储系统 |
| 主从异步复制 | 简单、写延迟低 | 故障切换可能丢写 | 可接受少量丢失的缓存/日志 |
| Gossip + CRDT | 去中心、分区可用 | 不提供线性一致 | 计数、集合、最终一致配置 |
3.8 何时不该用
- 单机应用、无 HA 要求:共识只会增加复杂度。
- 只读或可重建的数据:缓存、索引副本不需要共识。
- 写吞吐极高且跨地域:每次写等跨洋 RTT 不现实,考虑分区化或最终一致。
- 业务无法定义“同一顺序”的语义:先建模,协议救不了模糊需求。
- 团队没有故障演练能力:共识的运维复杂度会超过收益。
4 边界
4.1 典型故障
| 症状 | 根因 | 处理 |
|---|---|---|
| 集群没有 leader,写全部超时 | 分区后没有多数派,或选举超时过短导致反复选主 | 恢复多数派;调大超时;检查网络与 CPU 抖动 |
| 旧 leader 仍接受写 | 旧 leader 未及时得知新 term,租约实现有误 | 使用 PreVote/CheckQuorum;写路径校验 term;加 fencing token |
| 新 leader 日志缺已提交项 | 选主时未比较 lastLogIndex/term,或投票规则错误 | 修正投票约束;用已提交日志恢复 |
| commit 长时间不推进 | follower 磁盘慢、网络丢包、nextIndex 回退卡住 | 看 matchIndex 与 fsync 耗时;替换慢节点 |
| 重启后状态机与日志不一致 | apply 非确定性,或快照与日志边界错误 | 固定随机/时间;校验快照 lastIncludedIndex |
| 读返回旧值 | leader 失去多数派但仍按本地状态读 | ReadIndex/lease;不要在 minority 上确认读 |
4.2 反模式
| 做法 | 后果 | 替代 |
|---|---|---|
| 用墙上时钟做租约 | 时钟回拨导致双主 | 逻辑 term + 单调时钟 + fencing |
| 2 节点集群 | 任一节点故障即失去多数派 | 3 节点起步 |
| 默认读 follower | 读到旧值却当成线性一致 | 明确一致性级别 |
| 把共识放进每个请求热路径 | 写吞吐被 RTT 和 fsync 锁死 | 批量、分区、异步投影 |
4.3 可观测信号
leader changes:短时间频繁变更说明网络或负载不稳。term:异常增长通常伴随分区节点反复选举。commitIndex - lastApplied:apply 落后说明状态机或磁盘成为瓶颈。proposal latency:区分 fsync、网络 RTT、leader 排队三段。fsync duration:慢盘会让整个集群的提交停顿。
4.4 安全 / 性能 / 一致性边界
- 安全:没有多数派就不能提交;分区两侧不能同时提供线性一致写。
- 性能:共识是串行日志,单 leader 写吞吐有上限;跨地域写延迟由 RTT 决定。
- 一致性:follower read 默认是陈旧读;要线性一致读必须走 lease 或 ReadIndex。
- 恢复:快照与日志同等重要;只备份日志不备份状态机会让恢复不可用。