Polly v8.2.0 弹性策略组合与限流实现详解

弹性策略组合的正确顺序

在Polly v8.2.0中，构建弹性管道时策略的添加顺序直接影响其执行效果。一个常见的误区是认为策略会按照添加顺序从上到下执行，实际上策略的执行顺序与添加顺序相反，即最后添加的策略最先执行。

正确的策略组合顺序应该是：

1. 首先添加Fallback（回退）策略
2. 然后添加Retry（重试）策略
3. 接着添加Circuit Breaker（熔断）策略
4. 最后添加Timeout（超时）策略

这种顺序安排的原因在于：

• 超时策略应该在最内层，最先检查
• 熔断策略需要监控每一次重试尝试
• 重试策略应该在熔断策略之后
• 回退策略作为最后的安全网

策略组合示例代码

var pipeline = new ResiliencePipelineBuilder<string>()
    .AddFallback(new FallbackStrategyOptions<string>
    {
        FallbackAction = args => Outcome.FromResultAsValueTask("Fallback result"),
        OnFallback = args => 
        {
            Console.WriteLine("执行回退策略");
            return ValueTask.CompletedTask;
        }
    })
    .AddRetry(new RetryStrategyOptions<string>
    {
        MaxRetryAttempts = 2,
        Delay = TimeSpan.Zero,
        OnRetry = args => 
        {
            Console.WriteLine($"第{args.AttemptNumber}次重试");
            return ValueTask.CompletedTask;
        }
    })
    .AddCircuitBreaker(new CircuitBreakerStrategyOptions<string>
    {
        MinimumThroughput = 3,
        BreakDuration = TimeSpan.FromSeconds(15),
        OnOpened = args => 
        {
            Console.WriteLine("熔断器开启");
            return ValueTask.CompletedTask;
        }
    })
    .AddTimeout(new TimeoutStrategyOptions
    {
        Timeout = TimeSpan.FromSeconds(3),
        OnTimeout = args => 
        {
            Console.WriteLine("请求超时");
            return ValueTask.CompletedTask;
        }
    })
    .Build();

限流策略实现

Polly v8提供了灵活的限流功能，支持多种限流算法组合使用。以下是两种常见的限流场景实现方式：

1. 滑动窗口限流

.AddRateLimiter(new SlidingWindowRateLimiter(
    new SlidingWindowRateLimiterOptions
    {
        SegmentsPerWindow = 1,
        PermitLimit = 3,
        Window = TimeSpan.FromMinutes(1)
    }));

这种配置表示在1分钟的时间窗口内最多允许3次请求。

2. 并发限流

.AddRateLimiter(new RateLimiterStrategyOptions
{
    DefaultRateLimiterOptions = new ConcurrencyLimiterOptions
    {
        QueueLimit = 0,
        PermitLimit = 1
    },
    OnRejected = args => 
    {
        Console.WriteLine("请求被限流");
        return default;
    }
});

这种配置表示同时只允许1个请求执行，不排队。

组合限流策略

在实际应用中，我们可能需要同时实现多种限流策略，例如既要限制每分钟的请求次数，又要限制并发数。这时可以使用Chained Rate Limiter：

var limiter = PartitionedRateLimiter.CreateChained(
    PartitionedRateLimiter.Create<ResilienceContext, string>(context =>
    {
        // 滑动窗口限流
        return RateLimitPartition.GetSlidingWindowLimiter("global", _ =>
            new SlidingWindowRateLimiterOptions
            {
                PermitLimit = 3,
                Window = TimeSpan.FromMinutes(1)
            });
    }),
    PartitionedRateLimiter.Create<ResilienceContext, string>(context =>
    {
        // 并发限流
        return RateLimitPartition.GetConcurrencyLimiter("global", _ =>
            new ConcurrencyLimiterOptions
            {
                PermitLimit = 1,
                QueueLimit = 0
            });
    })
);

builder.Services.AddResiliencePipeline<string, string>("CombinedLimiterPipeline", builder =>
{
    builder.AddRateLimiter(new RateLimiterStrategyOptions
    {
        RateLimiter = args => limiter.AcquireAsync(args.Context, 1, args.Context.CancellationToken),
        OnRejected = args => 
        {
            Console.WriteLine("请求被限流");
            return default;
        }
    });
});

这种组合方式既保证了每分钟不超过3次请求，又确保了同一时间只有1个请求在执行。

最佳实践建议

1. 策略顺序：始终将最基础的策略（如超时）放在最后添加，将最外层的策略（如回退）最先添加。

2. 合理配置：根据业务需求调整各种策略的参数，如重试次数、熔断阈值等。

3. 监控日志：为每个策略添加适当的日志输出，便于问题排查。

4. 性能考虑：限流策略会增加少量开销，在高性能场景下需要权衡。

5. 测试验证：对组合策略进行充分测试，确保其行为符合预期。

通过合理组合Polly提供的各种弹性策略，可以构建出健壮可靠的应用程序，有效应对各种异常情况和流量冲击。