WebApiClientCore 并发性能优化与 HttpClient 配置实践

问题背景

在使用 WebApiClientCore 2.1.4 进行高并发请求时，开发者发现当并发量达到50以上时会出现请求超时问题。通过对比测试发现，直接使用 HttpClient 则不会出现此问题。深入分析后发现，这与 HttpClient 的底层连接管理机制密切相关。

核心问题分析

WebApiClientCore 是基于 HttpClientFactory 构建的高级 HTTP 客户端框架。当出现并发性能问题时，主要需要考虑以下几个关键因素：

1. 连接池管理：HttpClient 底层使用连接池来复用 TCP 连接
2. 最大连接数限制：默认情况下存在并发连接数限制
3. 请求队列机制：当连接数达到上限时，新请求会进入队列等待

解决方案对比

原始 WebApiClientCore 配置

services.AddHttpApi<IDeviceNetworkServiceApi1>()
    .ConfigureHttpApi(options => options.HttpHost = new Uri(GlobalConstant.DeviceNetworkServiceApi))
    .ConfigureHttpClient(httpClient => {
        httpClient.Timeout = TimeSpan.FromSeconds(10);
    })
    .ConfigurePrimaryHttpMessageHandler(() => new HttpClientHandler {
        MaxConnectionsPerServer = 200
    });

等效的 HttpClientFactory 实现

builder.Services.AddHttpClient("DeviceNetworkServiceClient", client => {
    client.Timeout = TimeSpan.FromSeconds(10);
    client.BaseAddress = new Uri(GlobalConstant.DeviceNetworkServiceApi);
})
.ConfigurePrimaryHttpMessageHandler(() => new HttpClientHandler {
    MaxConnectionsPerServer = 200
});

关键配置参数

MaxConnectionsPerServer

这个参数决定了针对单个目标服务器的最大并发连接数。在 WebApiClientCore 中：

• 如果不显式设置，默认值为 int.MaxValue（即基本无限制）
• 旧版 WebApiClient.JIT 默认值为128
• 需要根据实际服务器承载能力合理设置

Timeout 配置

超时设置需要平衡用户体验和系统资源：

• 设置过短会导致正常请求被中断
• 设置过长会占用连接资源，影响整体吞吐量
• 需要结合业务场景和服务器响应时间确定

性能优化建议

1. 合理设置 MaxConnectionsPerServer：

   • 从保守值开始（如100-200）
   • 通过压力测试逐步调整
   • 考虑服务器硬件资源和处理能力

2. 监控和调优：

   • 监控请求成功率、响应时间等指标
   • 根据监控数据动态调整连接数限制
   • 考虑实现自动扩缩容机制

3. 连接生命周期管理：

   • 定期检查连接健康状态
   • 实现连接回收机制
   • 考虑实现连接预热策略

实际应用经验

在实际项目中，我们发现：

1. 从 WebApiClient.JIT 迁移到 WebApiClientCore 时，需要注意默认配置的变化
2. 高并发场景下，连接数限制是影响性能的关键因素
3. 合理的超时设置可以防止雪崩效应，保护下游服务

结论

WebApiClientCore 作为基于 HttpClientFactory 的高级封装，在并发处理上具有很好的灵活性。通过合理配置 MaxConnectionsPerServer 和 Timeout 参数，可以显著提升高并发场景下的请求成功率。开发者需要根据实际业务需求和服务器承载能力，找到最佳的参数组合，实现系统性能的最优化。