Rails ActiveSupport::Cache 中 race_condition_ttl 导致 expires_at 设置异常问题分析

问题背景

在 Rails 应用中，ActiveSupport::Cache 是一个常用的缓存组件，它提供了多种缓存策略和功能。其中，race_condition_ttl 是一个用于处理缓存并发问题的参数，它可以在缓存即将过期时提供一个缓冲期，防止多个请求同时触发昂贵的计算操作。

然而，在实际使用中发现，当在 race_condition_ttl 窗口期内更新缓存时，expires_at 的值会被错误地设置为 2 倍的 race_condition_ttl，而不是预期的 expires_in 值。这导致缓存的实际过期时间比预期的要短得多。

问题重现

通过以下测试用例可以清晰地重现这个问题：

def test_expired_at_value(cache, key, options)
  now = Time.now.to_f
  cache.fetch(key, **options) { "a value" }
  expected_expires_at = now + options[:expires_in]
  cached_expired_at = cache.send(:read_entry, key).expires_at
  assert_in_delta expected_expires_at, cached_expired_at, 0.1
end

cache = ActiveSupport::Cache::MemoryStore.new
expires_in = 3
race_condition_ttl = 1
key = "some-key"

# 第一次设置缓存，expires_at 正确
test_expired_at_value(cache, key, {expires_in:, race_condition_ttl:})

# 等待超过缓存过期时间加 race_condition_ttl
sleep(expires_in + race_condition_ttl + 1)

# 此时更新缓存，expires_at 仍然正确
test_expired_at_value(cache, key, {expires_in:, race_condition_ttl:})

# 等待到 race_condition_ttl 窗口期内
sleep(expires_in + race_condition_ttl.to_f / 2)

# 此时更新缓存，expires_at 设置错误
test_expired_at_value(cache, key, {expires_in:, race_condition_ttl:})

问题根源分析

深入分析 ActiveSupport::Cache 的源代码，发现问题出在 handle_expired_entry 方法中。当检测到缓存项已过期但仍在 race_condition_ttl 窗口期内时，该方法会修改传入的 options 哈希，将 expires_in 设置为 race_condition_ttl 的值。

随后，在 save_block_result_to_cache 方法中，这个被修改的 options 哈希会被用来设置新的 expires_at 值，导致最终设置的过期时间不正确。

影响范围

这个问题会影响所有使用 race_condition_ttl 参数的缓存操作，特别是在高并发场景下：

1. 缓存的实际过期时间会比预期的短
2. 在高流量时期，昂贵的计算操作会被更频繁地触发
3. 使用 expires_at 参数时同样存在此问题

解决方案建议

要解决这个问题，可以考虑以下几种方法：

1. 修复 ActiveSupport::Cache 的实现：在 handle_expired_entry 方法中，不应该直接修改传入的 options 哈希，而是应该创建一个新的哈希来保存临时设置。

2. 临时解决方案：在使用 race_condition_ttl 时，可以适当增大 expires_in 的值，以补偿这个 bug 导致的时间损失。

3. 自定义缓存策略：对于特别关键的缓存操作，可以实现自定义的缓存策略来规避这个问题。

最佳实践

在使用 ActiveSupport::Cache 时，建议：

1. 对于昂贵的计算操作，仔细测试缓存的实际行为
2. 在高并发场景下，监控缓存的命中率和更新频率
3. 考虑使用更长的 race_condition_ttl 值来减少并发更新的可能性
4. 定期检查 Rails 的更新，关注这个问题的修复情况

总结

这个问题展示了在并发环境下缓存管理的复杂性。虽然 race_condition_ttl 是一个有用的功能，但它的实现存在缺陷，可能导致缓存行为不符合预期。开发者在使用这个功能时应当充分测试，确保理解其实际行为，并在必要时采取适当的应对措施。