Thi.ng Memoize 库中的异步函数缓存优化实践

背景介绍

在函数式编程中，memoize（记忆化）是一种常见的性能优化技术，它通过缓存函数调用的结果来避免重复计算。当相同的输入再次出现时，直接从缓存中返回结果，而不是重新执行函数。这对于计算密集型或IO密集型的操作特别有用。

问题发现

在使用Thi.ng Memoize库时，我们发现了一个关于异步函数缓存的特殊问题：当Promise被拒绝时，原始的memoize实现会缓存这个被拒绝的Promise。这意味着后续相同的调用会立即得到相同的拒绝结果，而不是重新尝试执行函数。

这种情况在某些场景下可能不是我们期望的行为。例如，当函数执行失败是由于临时性错误（如网络问题）导致时，我们可能希望在下次调用时重试，而不是直接返回之前的失败结果。

问题示例

考虑以下场景：

// 模拟一个会在指定时间后拒绝的Promise
function rejectAfterDelay(ms?: number) {
  return new Promise((_, reject) => setTimeout(reject, ms))
}

// 使用memoizeO缓存异步函数
const memoizedAsyncFn = memoizeO(async (delay: number) => {
  console.log('executing')
  await rejectAfterDelay(delay)
})

// 第一次调用，2秒后拒绝
await memoizedAsyncFn(2000).catch(() => console.log('Failure 1'))

// 第二次调用相同的参数
// 会立即返回之前缓存的拒绝Promise，而不是等待2秒
await memoizedAsyncFn(2000).catch(() => console.log('Failure 2 without delay'))

解决方案

Thi.ng Memoize库在4.0.0版本中引入了专门的异步memoize函数（如memoizeAsyncO），这些新函数会在Promise被拒绝时自动跳过缓存。这样，当下次使用相同参数调用时，函数会重新执行而不是返回缓存的拒绝结果。

实现原理

新的异步memoize函数的核心改进在于：

1. 仍然使用相同的缓存机制来存储Promise
2. 但当Promise被拒绝时，会从缓存中删除对应的条目
3. 这样下次调用就会创建新的Promise并重新执行函数

这种实现方式既保持了memoize的性能优势，又避免了缓存失败结果带来的问题。

使用建议

对于异步函数，现在推荐使用专门的异步memoize函数，如：

• memoizeAsyncO：对象参数版本的异步memoize
• memoizeAsync1：单参数版本的异步memoize
• 其他对应版本的异步memoize函数

这些函数的使用方式与原始版本相同，但提供了更合理的错误处理行为。

总结

Thi.ng Memoize库的异步memoize改进展示了函数缓存技术在实际应用中的细致考量。通过区分同步和异步场景，并为异步操作提供专门的缓存策略，开发者可以更安全地在项目中应用memoize优化，特别是在涉及可能失败的异步操作时。这一改进使得Thi.ng Memoize库在保持高性能的同时，提供了更符合开发者预期的行为。