Dio 并发请求限制的实现方案

在基于 Dart 的 HTTP 客户端库 Dio 中，控制并发请求数量是一个常见的需求场景。本文将详细介绍如何在 Dio 中实现并发请求限制，帮助开发者更好地管理网络请求流量，避免服务器过载或触发 API 限流机制。

并发控制的核心原理

并发请求限制的核心在于建立一个请求队列和并发控制机制。当并发请求数达到上限时，新的请求需要排队等待，直到有正在进行的请求完成释放出"名额"后才能继续执行。

实现方案

基于计数锁和拦截器的实现

Dio 的拦截器机制为实现并发控制提供了天然的扩展点。我们可以通过以下组件构建并发控制系统：

1. 计数器锁：用于跟踪当前活跃的请求数量
2. 请求队列：存储等待执行的请求
3. 拦截器：在请求发出前检查并发数，在请求完成后释放资源

具体实现步骤

1. 创建一个并发控制器类，维护当前活跃请求数和最大并发数
2. 在请求拦截器中：
   • 检查当前活跃请求数是否已达上限
   • 如果已达上限，将请求加入等待队列
   • 否则增加活跃计数并放行请求
3. 在响应/错误拦截器中：
   • 减少活跃请求计数
   • 检查等待队列并处理下一个请求

代码示例

class ConcurrencyController {
  final int maxConcurrent;
  int _activeCount = 0;
  final Queue<Completer<void>> _queue = Queue();

  ConcurrencyController(this.maxConcurrent);

  Future<void> acquire() async {
    if (_activeCount < maxConcurrent) {
      _activeCount++;
      return;
    }
    final completer = Completer<void>();
    _queue.add(completer);
    await completer.future;
  }

  void release() {
    _activeCount--;
    if (_queue.isNotEmpty) {
      _queue.removeFirst().complete();
      _activeCount++;
    }
  }
}

class ConcurrencyInterceptor extends Interceptor {
  final ConcurrencyController controller;

  ConcurrencyInterceptor(this.controller);

  @override
  Future<void> onRequest(
    RequestOptions options,
    RequestInterceptorHandler handler,
  ) async {
    await controller.acquire();
    super.onRequest(options, handler);
  }

  @override
  void onResponse(Response response, ResponseInterceptorHandler handler) {
    controller.release();
    super.onResponse(response, handler);
  }

  @override
  void onError(DioException err, ErrorInterceptorHandler handler) {
    controller.release();
    super.onError(err, handler);
  }
}

使用方式

final dio = Dio();
final controller = ConcurrencyController(5); // 最大并发数为5
dio.interceptors.add(ConcurrencyInterceptor(controller));

高级优化方向

1. 优先级队列：为请求添加优先级，高优先级请求可以插队
2. 超时机制：为等待队列中的请求设置最大等待时间
3. 动态调整：根据网络状况或服务器负载动态调整最大并发数
4. 错误恢复：在请求失败时提供重试机制

适用场景

1. API 限流：遵守第三方API的请求频率限制
2. 资源控制：避免移动设备网络资源被过度占用
3. 服务器保护：防止后端服务因突发流量过载
4. 性能优化：在低带宽环境下优化请求顺序

总结

通过拦截器机制实现 Dio 的并发请求限制是一种优雅且高效的解决方案。开发者可以根据实际需求调整并发数，平衡响应速度和系统负载。这种模式不仅适用于 Dio，其设计思路也可以迁移到其他类似的网络请求库中。