Caffeine缓存库中expireAfter与expireAfterWrite的行为差异分析

背景介绍

Caffeine是一个高性能的Java缓存库，广泛应用于需要高效缓存管理的场景。在实际使用中，开发者经常需要配置缓存的过期策略来优化系统性能。本文通过一个实际案例，分析Caffeine中两种不同过期策略的行为差异。

问题场景

在Kotlin项目中，开发者最初使用expireAfterWrite配置缓存，设置固定10分钟的过期时间。这种配置下，缓存项会在写入后10分钟统一过期，导致系统在同一时间点面临大量缓存重建请求，形成"缓存雪崩"效应。

为了缓解这个问题，开发者尝试改用expireAfter策略，期望实现缓存项在5-15分钟之间随机过期。然而实际运行中发现，缓存项似乎永远不会过期，与预期行为不符。

技术实现分析

初始配置

最初的缓存配置使用expireAfterWrite：

Caffeine.newBuilder()
    .maximumSize(10_000)
    .expireAfterWrite(10.minutes)
    .recordStats()
    .buildAsync { k, _ -> coroutineScope.future { Box(loader(k)) } }

这种配置简单直接，所有缓存项在写入10分钟后统一过期。

改进尝试

开发者尝试改用随机过期时间的策略：

fun expireRandomDurationAfterCreate(min: Duration, max: Duration) = object : Expiry<String, Boolean> {
    override fun expireAfterCreate(key: String, value: Boolean, currentTime: Long) =
        randomDurationNanos(min, max)
    override fun expireAfterUpdate(key: String, value: Boolean, currentTime: Long, currentDuration: Long) =
        currentDuration
    override fun expireAfterRead(key: String, value: Boolean, currentTime: Long, currentDuration: Long) =
        currentDuration
}

Caffeine.newBuilder()
    .maximumSize(10_000)
    .expireAfter(expireRandomDurationAfterCreate(5.minutes, 15.minutes))
    .scheduler(Scheduler.systemScheduler())
    .recordStats()
    .buildAsync { k, _ -> coroutineScope.future { Box(loader(k)) } }

问题根源

经过深入排查，发现问题出在Expiry接口的泛型参数类型不匹配。虽然代码能够编译通过，但由于类型不匹配导致过期策略未能正确应用。

正确的实现应该匹配缓存值的实际类型Box<Boolean>：

object : Expiry<String, Box<Boolean>> {
    // 方法实现保持不变
}

技术要点解析

1. expireAfterWrite与expireAfter的区别：

   • expireAfterWrite：所有缓存项使用相同的固定过期时间
   • expireAfter：允许为每个缓存项定制不同的过期策略

2. Expiry接口的正确使用：

   • 必须确保泛型参数与实际缓存值类型完全匹配
   • 需要实现三个关键方法：创建后、更新后和读取后的过期时间计算

3. 缓存雪崩的预防：

   • 随机过期时间是防止缓存集体失效的有效手段
   • 也可以考虑使用refreshAfterWrite实现后台刷新

最佳实践建议

1. 在使用自定义Expiry策略时，务必仔细检查泛型参数类型
2. 对于需要分散过期时间的场景，除了随机过期策略，还可以考虑：
   • 分层缓存策略
   • 提前刷新机制
   • 批量加载优化
3. 建议使用Ticker进行单元测试，验证过期行为是否符合预期

总结

通过这个案例我们可以看到，Caffeine提供了灵活的缓存过期策略配置，但需要开发者正确理解和使用。特别是当使用高级特性如自定义Expiry时，类型系统的严格匹配是保证功能正常的关键。合理配置缓存过期策略不仅能提升系统性能，还能有效避免缓存雪崩等问题。