Caffeine缓存性能优化：get()与compute()的选择与原理

性能瓶颈的发现

在性能优化过程中，开发人员发现Caffeine缓存操作成为了CPU热点，特别是scheduleDrainBuffers方法被频繁调用。通过性能分析工具可以看到，缓存操作占据了显著的CPU时间，这引发了对于不同缓存访问方式性能差异的深入思考。

两种访问方式的本质区别

Caffeine提供了两种主要的缓存访问方式：

1. get()方法：这是最直接的缓存访问方式，内部实际上转发到asMap().computeIfAbsent。当缓存命中时，它的行为类似于简单的Map.get()操作，仅执行读取操作，性能开销较低。

2. asMap().compute()：这种方式更为底层，但每次调用都会执行独占写操作，即使只是读取数据。它会锁定条目以确定新值，这种设计保证了线程安全，但也带来了更高的性能开销。

底层机制解析

当使用compute()方法时，每次操作都会触发以下流程：

1. 条目锁定机制确保线程安全
2. 写入操作会重置条目的过期时间
3. 过期策略需要维护时间排序队列
4. 为避免全局锁，Caffeine使用中间缓冲区发布事件

在高写入频率场景下，缓冲区可能快速填满，导致性能下降。系统无法丢弃写入操作，因此会通过让写入者协助处理待处理工作来施加反压，最终可能成为性能瓶颈。

优化建议

1. 方法选择：如果业务场景允许，优先使用Cache.get()而非asMap().compute()，因为前者在缓存命中时性能更优。

2. 执行器配置：考虑使用Caffeine.executor(Runnable::run)配置，使策略维护工作在执行线程上完成，而非默认的ForkJoinPool.commonPool()。

3. 过期时间处理：对于高频率写入场景，可以自行实现TTL逻辑，仅依赖maximumSize进行基本限制，让过期条目在达到容量限制时被淘汰。

未来优化方向

Caffeine项目正在开发中的优化包括对Cache.put操作的改进，计划在1秒容差范围内跳过更新expireAfterWrite时间戳。这种优化可以避免在TTL更新时淹没写缓冲区，特别适合高频率写入场景。

总结

理解Caffeine缓存不同访问方式的底层机制对于性能优化至关重要。在大多数场景下，Cache.get()提供了更好的性能表现，而compute()方法则适用于需要更细粒度控制的特殊情况。开发人员应根据具体业务需求选择合适的访问方式，并考虑配置调优以获得最佳性能。