WuKongIM 发送链路 3000 QPS 吞吐优化实战:多 inflight 压测、progress ack 与节点级 durable 合批
WuKongIM 发送链路 3000 QPS 吞吐优化实战:多 inflight 压测、progress ack 与节点级 durable 合批
WuKongIM 在 docs/superpowers/plans/2026-04-09-send-path-3000qps-throughput.md 及配套设计文档 docs/superpowers/specs/2026-04-09-send-path-3000qps-throughput-design.md 中,围绕"三节点真实发送链路达到 >= 3000 QPS"给出了一份完整的实现计划:在不改变 durable send 成功语义、不降低 MinISR、不引入共享日志分片架构的前提下,通过压测驱动模型改造、确认路径缩短、节点间 RPC 合批、DB 级 durable 提交摊薄四条主线同时推进。本文以该计划为骨架,逐 Task 展开其失败测试、最小实现与验收命令,并结合当前仓库中已经演进的 pkg/channel/reactor、pkg/channel/transport、pkg/db/message 等实现,帮助你理解这轮吞吐优化背后的瓶颈归因与落地方案。
背景:发送链路为什么卡在百级 QPS
设计文档把当前 durable send 主链路描述为:
- gateway 收到发送帧;
internal/usecase/message进入 durable append;- 存储层通过每 channel 一个 ISR group 写入日志;
- follower 通过 fetch 拉取并本地 durable apply;
- leader 等待 ISR 进度推进到可提交位置后返回 sendack。
压测与代码分析表明,瓶颈不是 gateway 编解码,而是五个结构性原因:
- ack 关键路径多一个 fetch 往返:leader 主要在
Fetch请求到来时更新 follower progress,follower 即使已经 durable apply 完本批数据,leader 也往往要等"下一次 fetch"才能感知新 LEO,每条消息多出一段额外 RTT。 - 复制 RPC 以单 group 为主:
send_stress是"多 sender + 多个人频道 + 小消息"模型,每个 channel group 都比较热,但单 group 不足以形成大批次,于是产生大量"小而散"的 fetch 请求与响应。 - durable 批量化停留在 group 内:append group commit 只能合并"同一个 group 的并发 append",而热点分布是"很多 group 同时各来一点流量",共享 Pebble DB 上真正应该摊薄的是同一节点上多个 group 的 durable commit 成本。
- leader / follower 热路径存在额外重复工作:committed 后的 checkpoint / idempotency 写入仍会触发额外记录解码或 reread。
- 压测驱动模型过于串行:
send_stress_test.go基本是"一个 worker 一条连接,一次发送,一次等 ack",更像 latency mode,即使后端具备批量能力也很难被打满。
作为对照,设计文档指出 Kafka 的高 QPS 来自"生产者默认多 inflight + broker 按 partition/request 批量落盘 + 副本确认走 progress 驱动 + 跨 partition/broker 网络与磁盘复用度高"的组合。WuKongIM 与 Kafka 的核心差距不在"是否也有 append batching",而在于 Kafka 的批量化覆盖了 producer、broker、replica fetch、durable commit 全链路,而当时 WuKongIM 还停留在"单 group 内 append 合批"。
方案选型:为什么必须四条主线同时推进
设计文档对比了三个方案:
- 方案 A(只做单 group 内优化):改动局部、风险最小,但无法消除"下一轮 fetch 才能提交"的确认延迟,难以利用多 group 并发流量,很难从百级 QPS 拉到 3000 级。
- 方案 C(只加 throughput mode 和 transport batching):见效快、改动小,但保留确认链路额外 RTT,follower/leader 的 durable sync 仍按 group 分散发生,更像"压测提速"而非补齐链路。
- 方案 B(推荐):同时补齐 benchmark 多 inflight 驱动、follower durable apply 后的显式 progress ack、节点间 multi-group batched fetch RPC、channellog 节点级 durable commit coordinator、热路径 reread/重复写入清理。直接命中当前瓶颈,兼容现有 channel/group 模型,不放宽 durable 语义,最有机会在当前架构下达到
3000 QPS。
计划为此定义了严格的目标与非目标:
- 目标:三节点真实发送压测下
>= 3000 QPS;保持 durable send 成功条件、MinISR语义、channel → ISR group 路由模型、sendack 成功定义不变;允许为send_stress新增多 inflight 的 throughput mode。 - 非目标:不做"layer 4"共享日志分片、不做"layer 5"弱确认等级、不重做 gateway 协议层、不引入绕过集群语义的单机特殊路径、不改变消息顺序/offset 分配/idempotency 语义。
执行约束还包括:每个行为修改都先按 TDD 写失败测试;吞吐验收必须沿用现有 send_stress 形状(三节点、多 sender、多个人频道、小 payload),只允许新增 throughput mode 和 max inflight 驱动方式;所有性能结论必须来自 fresh 压测结果。
四条优化主线与文件映射
计划把改动按职责拆成四块,文件映射如下(路径为计划落地时的模块边界):
| 主线 | 文件 | 责任 |
|---|---|---|
| 压测驱动 | internal/app/send_stress_test.go、internal/app/multinode_integration_test.go |
throughput mode、MaxInflightPerWorker、worker writer/ack-reader 解耦、吞吐验收入口 |
| progress ack | pkg/replication/isr/{types,progress,progress_ack}.go、pkg/replication/isrnode/{types,transport}.go、pkg/replication/isrnodetransport/{codec,adapter,session}.go |
follower durable apply 后显式回报进度,leader 立即推进 HW |
| batched fetch | pkg/replication/isrnode/batching.go、pkg/replication/isrnodetransport/* |
per-peer 请求聚合、单 batch RPC、逐 group fanout |
| durable 合批 | pkg/storage/channellog/{commit_coordinator,commit_batch,db,store,log_store,checkpoint_store,state_store,apply,isr_bridge,send}.go |
node-level durable commit coordinator,摊薄 Pebble sync |
值得一提的是,这份计划中的 pkg/replication/isr*、pkg/storage/channellog 目录在当前仓库中已演进为新的架构,对应能力可以在 pkg/channel/reactor、pkg/channel/transport 与 pkg/db/message 中看到(下文会给出源码佐证)。
Task 1-2:给 send_stress 增加多 inflight throughput mode
计划的第一步不是改生产链路,而是先把压测驱动模型从串行改成多 inflight,否则后端真实的批量能力无法被"打满"。
配置模型与校验
在 internal/app/send_stress_test.go 中新增 mode 枚举与配置结构:
type sendStressMode string
const (
sendStressModeLatency sendStressMode = "latency"
sendStressModeThroughput sendStressMode = "throughput"
)
type sendStressConfig struct {
Mode sendStressMode
MaxInflightPerWorker int
// keep existing fields...
}
配套环境变量与校验规则:
WK_SEND_STRESS_MODE:默认latency;WK_SEND_STRESS_MAX_INFLIGHT_PER_WORKER:throughputmode 必须> 0,latencymode 下自动视为1;parseSendStressMode与非法配置拒绝逻辑。
计划要求先用失败测试锁定语义:
func TestSendStressConfigDefaultsToLatencyMode(t *testing.T)
func TestSendStressConfigParsesThroughputModeAndInflightOverride(t *testing.T)
func TestValidateSendStressConfigRejectsInvalidThroughputInflight(t *testing.T)
worker 拆成 writer loop 与 ack reader
第二步把 worker 执行拆成两条路径:runSendStressWorkersLatency(...) 保持"一发一等 ack"的保守基线;runSendStressWorkersThroughput(...) 要求:
- 每个 worker 维持一个 writer loop;
- 独立 ack reader 持续消费 ack;
- 用
MaxInflightPerWorker限流,单个 worker 同一时刻的未完成请求数不超过上限; - 每条消息仍然生成独立
sendStressRecord; - out-of-order ack 仍能按
ClientSeq/ClientMsgNo匹配到原消息; - 压测结束后继续复用现有
verifySendStressCommittedRecords(...)。
对应失败测试:
func TestSendStressThroughputTrackerCompletesOutOfOrderAcks(t *testing.T)
func TestRunSendStressWorkersThroughputModeCapsInflightPerWorker(t *testing.T)
smoke 验证命令
小规模 smoke 验证形态(WK_SEND_STRESS=1 显式开启):
WK_SEND_STRESS=1 \
WK_SEND_STRESS_MODE=throughput \
WK_SEND_STRESS_MAX_INFLIGHT_PER_WORKER=4 \
WK_SEND_STRESS_WORKERS=4 \
WK_SEND_STRESS_SENDERS=8 \
WK_SEND_STRESS_MESSAGES_PER_WORKER=20 \
go test ./internal/app -run '^TestSendStressThreeNode$' -count=1 -v
期望日志里出现 throughput mode 的 metrics 输出(duration、workers、senders、total/success/failed、qps、error rate、p50/p95/p99、max latency、verification count/failures)。
关于该压测底座的设计背景,可参考仓库中的 docs/superpowers/specs/2026-04-08-send-stress-design.md:测试入口是 TestSendStressThreeNode,只有在显式设置 WK_SEND_STRESS=1 时才执行,默认 go test ./... 跳过;复用 internal/app/multinode_integration_test.go 的 threeNodeAppHarness 真实三节点装配,走真实 WKProto -> Gateway -> SendAck;消息负载使用固定前缀加递增序号,便于持久化回读校验;"发送成功只以 durable commit + SendAck 为准"。
Task 3-5:follower durable apply 后显式 progress ack,缩短确认路径
这是四条主线中最直接削减 RTT 的一环:让 leader 不再依赖"下一轮 fetch"才能感知 follower 的进度。
核心语义:isr 层
在 pkg/replication/isr/types.go 新增请求类型,并为 Replica 增加方法:
type ProgressAckRequest struct {
GroupKey GroupKey
Epoch uint64
ReplicaID NodeID
MatchOffset uint64
}
// Replica 新增:
ApplyProgressAck(ctx context.Context, req ProgressAckRequest) error
progress_ack.go 的实现要点:
- role / epoch / groupKey 校验;
progress[ReplicaID]的单调推进,旧 ack 幂等忽略;- 复用
advanceHW()推进 leader HW。
失败测试锁定三种语义:
func TestApplyProgressAckAdvancesHWWithoutFollowUpFetch(t *testing.T)
func TestApplyProgressAckIgnoresStaleEpoch(t *testing.T)
func TestApplyProgressAckPreservesMonotonicReplicaProgress(t *testing.T)
运行方式:
go test ./pkg/replication/isr -run 'TestApplyProgressAck(AdvancesHWWithoutFollowUpFetch|IgnoresStaleEpoch|PreservesMonotonicReplicaProgress)$' -count=1
运行时与传输:isrnode / isrnodetransport 层
pkg/replication/isrnode/types.go 中新增 envelope 与消息类型:
const (
MessageKindProgressAck MessageKind = ...
)
type ProgressAckEnvelope struct {
GroupKey isr.GroupKey
Epoch uint64
Generation uint64
ReplicaID isr.NodeID
MatchOffset uint64
}
transport.go 中:applyFetchResponseEnvelope() 成功后立即发送 progress ack;deliverEnvelope() / handleEnvelope() 增加 progress ack 分支并调用 replica.ApplyProgressAck(...)。isrnodetransport 的 codec.go 增加 RPCServiceProgressAck 及独立编解码,adapter.go 注册路由,session.go 的 Send(env) 支持 MessageKindProgressAck,远端只返回空响应。
对应失败测试:
func TestFetchResponseSendsProgressAckAfterApplyFetch(t *testing.T)
func TestProgressAckEnvelopeRequiresMatchingGeneration(t *testing.T)
func TestLeaderAppliesProgressAckWithoutWaitingForNextFetch(t *testing.T)
func TestProgressAckCodecRoundTrip(t *testing.T)
func TestPeerSessionSendDispatchesProgressAckRPC(t *testing.T)
func TestAdapterHandleProgressAckInvokesRegisteredHandler(t *testing.T)
设计文档给出的正确性要求是:ack 必须只在 follower durable apply 成功后发送;leader 只接受当前 epoch / generation 的 ack;ack 处理必须幂等、单调,不允许旧 ack 回退 progress;ack 只缩短确认路径,不改变最终成功条件;ack 丢失时系统仍可退回"下一轮 fetch 推进 progress"的保守路径。
当前仓库中的演进印证
这份计划中的 progress ack 能力,在当前仓库中已经落到了 pkg/channel/transport/types.go 的 AckRequest 上,其 MatchOffset 字段的注释明确写着:"When false, the request is an ordinary durable progress acknowledgement"(Stopped=false 时即普通 durable progress 确认);PullRequest 也携带 AckOffset(follower 在本次 pull 前已 durable apply 的最高 offset)。
leader 侧的处理在 pkg/channel/reactor/leader_replication.go 中可以看到三个关键函数:
handleLeaderAck(L142 起):先校验Role、ChannelKey、Epoch、LeaderEpoch与 follower 成员资格,随后区分 stopped ack 与普通 progress ack;applyLeaderProgressAck(L185 起):MatchOffset == 0直接返回,MatchOffset > LEO返回ErrStaleMeta,然后markAppendAckOffsetObserved→state.ApplyFollowerAck(...)→markAppendHWAdvanced→completeReplies(...),即"收到 ack 立即推进 HW 并唤醒等待中的 append waiter";applyLeaderPullAckOffset(L209 起):保留"pull 请求内联携带 ack offset"的保守路径,两种推进方式共存。
pkg/channel/reactor/FLOW.md 也印证了这一语义:"Leaders apply AckOffset, serve cached or stored pulls, and advance quorum",且每个异步完成都必须匹配 Channel key、generation、epoch、leader epoch 与 operation ID,stale 结果不能推进或驱逐新 incarnation。
Task 6:per-peer multi-group batched fetch,消除小 RPC 风暴
在"多 sender + 多人频道"的压测形态下,同一 follower 往往同时在追多个 group,单 group fetch 会制造大量小而散的 RPC。计划在 isrnode 与 isrnodetransport 引入 per-peer batched fetch:
- 同一 follower 发往同一 leader 的多个 fetch request 先进入 peer session 聚合队列;
- 由 session 在极短窗口内打包成一个 batched fetch RPC;
- leader 在一个 RPC 内处理多个 group 的 fetch;
- 响应按 item 返回,每个 group 独立携带结果或错误;
- follower 收到 batched response 后逐 item 分发到对应 group 的
ApplyFetch。
实现要点:PeerSession.TryBatch 不再恒为 false,对 fetch request 返回 true;session 自行启动极短 flush 窗口;Flush() 发送一个 batched fetch RPC;codec 增加 encodeFetchBatchRequest/decodeFetchBatchRequest/encodeFetchBatchResponse/decodeFetchBatchResponse 与 RPCServiceFetchBatch;leader 端 batch handler 逐 item 调 ServeFetch,单 item 错误单独回传,不污染其它 group。
失败测试:
func TestPeerSessionTryBatchQueuesMultipleFetchRequests(t *testing.T)
func TestPeerSessionFlushSendsSingleFetchBatchRPC(t *testing.T)
func TestBatchedFetchResponseFansOutResultsPerGroup(t *testing.T)
go test ./pkg/replication/isrnode ./pkg/replication/isrnodetransport -run 'Test(PeerSessionTryBatchQueuesMultipleFetchRequests|PeerSessionFlushSendsSingleFetchBatchRPC|BatchedFetchResponseFansOutResultsPerGroup)$' -count=1
设计文档强调:batched transport 只合并网络包,不合并 group 语义;一个 group 的失败不能污染同批其它 group;发生解码错误或单 item stale 时按 group 级保守降级重试。
当前仓库中对应的 batched 形态是 pkg/channel/transport/types.go 里的 PullBatchRequest(Items []PullRequest)与 PullBatchResponse(Items []PullBatchItemResult,每个 item 独立携带 Response 与 Err),以及 PullHintBatchRequest/PullHintBatchResponse;BatchClient 接口提供 PullBatch / PullHintBatch 方法。这印证了"一个 RPC 内可包含多个 channel,逐 item 返回、逐 channel 独立成败"的设计原则。
Task 7-8:channellog 引入 node-level durable commit coordinator
设计文档判断:共享 Pebble DB 的真正瓶颈已经不是"能不能同 group append 合批",而是"多个 group 的 committed / apply durable 成本没有在 DB 级合批"。因此在 pkg/storage/channellog 引入 node-level durable commit coordinator。
coordinator 核心结构
在 db.go / store.go 上挂一个 DB 级 coordinator,核心接口形态:
type commitRequest struct {
groupKey isr.GroupKey
build func(*pebble.Batch) error
publish func() error
done chan error
}
实现要求:
- DB 级队列聚合多个 group 请求;
- 一个 batch 内统一
Commit(pebble.Sync); - commit 成功后再逐请求
publish; - 两个 group 的 durable request 可以共享一次 Pebble sync;
- sync 未完成前任何 group 的 publish callback 都不能被调用;
- sync 失败时所有等待请求都收到失败,不允许局部成功后继续对外可见。
失败测试:
func TestCommitCoordinatorBatchesMultipleGroupsIntoSinglePebbleSync(t *testing.T)
func TestCommitCoordinatorDoesNotPublishBeforeSyncCompletes(t *testing.T)
func TestCommitCoordinatorFanoutsBatchFailureToAllWaiters(t *testing.T)
接入 leader committed 与 follower apply 路径
Task 8 把两条 durable 路径统一接入 coordinator:
checkpointBridge.Store(...):把 committed idempotency mutation + checkpoint mutation 提交给 coordinator;StoreApplyFetch(...)/applyFetchedRecords(...):把 fetched records、idempotency mutation、checkpoint mutation 放进同一个 shared batch;state_store.go/checkpoint_store.go:暴露 no-sync 的 batch writer helper,供 coordinator 复用。
原子可见性由如下测试锁定:
func TestCheckpointBridgeUsesCoordinatorForCommittedState(t *testing.T)
func TestStoreApplyFetchPublishesLEOOnlyAfterCoordinatorCommit(t *testing.T)
func TestISRBridgeLEODoesNotBlockWhileCoordinatorSyncIsInFlight(t *testing.T)
要求:leader committed checkpoint + idempotency 更新通过 coordinator 原子发布;follower apply 的 LEO/HW 只在 shared sync 成功后可见;LEO() 读取在 sync 阻塞时仍不被长时间卡死。
关键语义约束(设计文档):
- 只有 shared batch
Sync成功后,相关 group 的 committed 状态才可见; - coordinator 不能打乱单个 group 内的 offset / checkpoint 顺序;
- 某个 batch 失败时,整批请求都返回失败,不允许局部成功后继续对外可见;
- N 个 group 的 checkpoint commit、N 个 group 的 apply fetch durable commit,被压缩成更少的 Pebble
Batch.Commit(pebble.Sync)次数。
当前仓库中的演进印证
在当前仓库中,物理存储层已演进为 pkg/db/message(ChannelLog / MessageDB)。pkg/db/message/channel_log.go 中每个 channelEntry 持有 appendMu(串行化 append frontier 突变)、checkpointMu(串行化 checkpoint 读后写)、idempotencyMembership(有界负缓存)、durableProposalTail("仅在物理 commit 之后发布"的 committed append 前驱)与原子 leo;pkg/db/message/commit_ownership.go 提供 newCommitOwnership / newCommitOwnershipWithPins / finalize 等 commit 所有权编排;pkg/db/message/append.go 中 Append 先 NewBatch(),再经 prepareAndStageAppendLocked → walkAppendRowsLocked 构建 row,最后由 publishAppendLocked 发布结果。
pkg/channel/reactor/FLOW.md 也明确指出:"Exact durable-quorum proposals flush immediately from the reactor; the MessageDB coordinator below this seam remains the physical group-commit batching owner"——即 reactor 之上只负责精确 quorum 提交的判定,物理 group-commit 合批由下层 MessageDB 协调者负责,这正是"确认路径与 durable 批量化分层"这一设计思想的延续。
Task 9:清理 send 成功路径的 reread / 重复写入
仅靠合批还不够,计划要求收紧 commit 前后的重复工作,优先处理两类热点:
- 避免 committed 阶段为 idempotency 重复 reread log:append / apply 阶段直接产出
appliedMessage元数据,随 commit batch 一起传入 coordinator,由 coordinator 直接用这些元数据构造 idempotency mutation,避免重复扫描。 - send 成功返回尽量复用 commit 结果:
pkg/storage/channellog/send.go中 post-commit 的状态确认尽量复用 commit batch 已知结果,仅在 truly duplicate / stale 需要时再回退到 reread。
失败测试:
func TestAppendReturnsCommittedResultWithoutPostCommitIdempotencyRewrite(t *testing.T)
func TestAppendDuplicateStillReturnsStoredMessageAfterCoordinatorCommit(t *testing.T)
func TestAppendReturnsErrIdempotencyConflictWhenPayloadChanges(t *testing.T)
实现要点:保留 pre-append duplicate fast path;普通成功路径直接信任 coordinator 已完成 durable state publish;仅在 truly duplicate / stale fallback 时回退到 reread。设计文档的目标不是去掉所有校验,而是让正常成功路径尽量不重复读、重复写路径尽量一次 commit 解决更多状态落盘。
Task 10:端到端回归与 3000 QPS 验收
计划的收尾阶段包含四类验证:
1. 语义回归
go test ./pkg/replication/isr ./pkg/replication/isrnode ./pkg/replication/isrnodetransport ./pkg/storage/channellog ./internal/app -count=1
2. 真实三节点 throughput 验收(沿用 send_stress 形状)
WK_SEND_STRESS=1 \
WK_SEND_STRESS_MODE=throughput \
WK_SEND_STRESS_MAX_INFLIGHT_PER_WORKER=8 \
WK_SEND_STRESS_WORKERS=32 \
WK_SEND_STRESS_SENDERS=128 \
WK_SEND_STRESS_MESSAGES_PER_WORKER=200 \
WK_SEND_STRESS_ACK_TIMEOUT=10s \
go test ./internal/app -run '^TestSendStressThreeNode$' -count=1 -v
期望 PASS 且日志中的 qps >= 3000。注意 WK_SEND_STRESS_ACK_TIMEOUT 是既有 env 配置项(见 docs/superpowers/specs/2026-04-08-send-stress-design.md)。
3. 存储基准验证 durable batching 方向
go test ./pkg/storage/channellog -run '^$' -bench '^BenchmarkClusterAppend$' -benchmem -count=1
期望 ns/op 明显低于当时约 13.4ms/op 的基线。
4. 未达标时补 fresh profile
WK_SEND_STRESS=1 \
WK_SEND_STRESS_MODE=throughput \
WK_SEND_STRESS_MAX_INFLIGHT_PER_WORKER=8 \
WK_SEND_STRESS_WORKERS=32 \
WK_SEND_STRESS_SENDERS=128 \
WK_SEND_STRESS_MESSAGES_PER_WORKER=200 \
go test ./internal/app -run '^TestSendStressThreeNode$' -count=1 \
-cpuprofile /tmp/send_stress.cpu.out \
-blockprofile /tmp/send_stress.block.out \
-mutexprofile /tmp/send_stress.mutex.out -v
期望热点不再集中在"下一轮 fetch 才能提交"和"每 group 单独 sync"。
正确性约束与测试策略
计划把优化约束在严格的语义边界内,这些边界是"可以提速、不可改语义"的底线:
- sendack 成功条件不变:仍要求 leader 侧 append 进入本地日志、满足当前
MinISR语义、对应 commit 已完成 durable 可见。任何优化只能缩短达到条件的时间,不能改变条件本身。 - 每条消息结果独立:即使通过 throughput mode、batched fetch、node-level durable batching 把很多消息并在一起处理,每条消息仍有自己的成功/失败结果,单条消息的 context cancel 或 duplicate 不能污染同批其它消息,offset / messageSeq 必须保持单调且与最终日志一致。
- progress ack 幂等且带时代校验:旧 epoch / generation 的 ack 必须被忽略;ack 不能回退 progress;ack 丢失时退回"下一轮 fetch 推进 progress"的保守路径。
- batched fetch 只共享 transport,不共享 group 状态:batch 只是网络层复用,不改变 ISR 语义边界。
- node-level durable batching 不能破坏可见性:shared Pebble batch 返回前不得提前对外发布 HW / LEO / idempotency 成功结果;batch 失败时整批保守失败。
测试策略分三层:单元测试覆盖 throughput mode 多 inflight ack 归并、progress ack 单调规则、stale/duplicate/old generation 不推进 HW、batched fetch codec 多 group 承载、单 item 失败隔离、coordinator 一次 sync 合成多 group、失败不提前发布、committed 元数据直接生成 idempotency mutation;集成测试覆盖三节点下 progress ack 到达即唤醒 waiter、batched fetch + progress ack 组合下多 channel 并发保持顺序与 idempotency、throughput mode 真实发送仍可逐条校验 owner/follower 消息内容;性能验收保留 latency / throughput 两种口径,记录 QPS、p50/p95/p99 ack latency、success/failed 数量与异常信号。
分阶段落地与风险回退
计划把落地拆成四个 Phase:Phase 1 固化 throughput mode 与稳定压测基线(确保后续每轮优化在同一口径下对比);Phase 2 加入 progress ack envelope、处理逻辑与回归测试,验证 append waiter 不再依赖"下一轮 fetch";Phase 3 完成 codec、session、runtime batching,让同一 peer 的多个热 group 共享更少的 fetch RPC;Phase 4 引入 coordinator,把 leader committed 与 follower apply 的 durable commit 汇聚到 DB 级批量提交,并清理 reread / 重复 decode / 重复状态提交。
主要风险与回退策略:
- batched transport 把网络层问题扩大到多个 group:可按 peer 或按 feature flag 退回单 group RPC;
- progress ack 时代校验不严可能错误推进 HW:可保守退回"仅依赖 fetch 推进 progress";
- node-level durable batching 可见性边界处理不当:可能出现"已返回成功但状态未 durable"的严重错误,可退回每 group 独立 durable commit。
所有回退都必须保持当前 durable 语义不变。
从计划到现状:仓库里的演进线索
这份 3000 QPS 计划不是孤立的:仓库 docs/superpowers/plans/ 下还有 2026-04-09-send-path-group-commit-implementation.md(group 内 append 合批的前置计划)、2026-04-17-send-path-3000qps-minisr2.md(把同一目标延续到 MinISR=2,验证 sendack 仍绑定 durable quorum commit)、2026-04-19-send-path-main-batch-migration.md 与 2026-04-21-remove-progress-ack-implementation.md(说明后续架构调整中 progress ack 的显式独立路径被并入新的确认机制)等,共同构成了一条"单 group 合批 → 确认路径缩短 → 节点级 durable 摊薄"的完整优化序列。
当前代码中,pkg/channel/reactor/leader_replication.go 的 applyLeaderProgressAck / applyLeaderPullAckOffset、pkg/channel/transport/types.go 的 AckRequest.MatchOffset 与 PullBatchRequest/PullBatchResponse、pkg/db/message 中 channelEntry 的 append/checkpoint 串行化与 commit 所有权编排,都是这条优化路径在现架构中的落点。如果你正在 WuKongIM 上做发送链路的性能分析或压测改造,可以把这份计划当作一份"问题定位清单 + 验收脚本模板",再结合当前 pkg/channel 与 pkg/db/message 的实现定位每个瓶颈的现状。