Marten 中嵌套数组查询问题的分析与解决

问题背景

在 Marten 这个.NET 平台上的文档数据库库中，开发者在使用 LINQ 查询嵌套数组结构时遇到了一个棘手的问题。具体表现为：当一个文档包含多层嵌套的集合类型时，针对嵌套集合元素的查询无法返回预期的结果。

问题重现

让我们先来看一个典型的代码示例，它清晰地展示了这个问题：

public sealed record NestedObject2(List<Guid> MyPileOfGuids);
public sealed record NestedObject1(List<NestedObject2> NestedObject2s);
public sealed record RootObject(Guid Id, NestedObject1 NestedObject);

[Fact]
public async Task Bug_nested_array_querying()
{
    var searchGuid = Guid.NewGuid();

    var entity = new RootObject(Guid.NewGuid(),
        new NestedObject1([new([searchGuid])]));

    theSession.Store(entity);
    await theSession.SaveChangesAsync();

    var result = await theSession.Query<RootObject>()
        .Where(x => x.NestedObject.NestedObject2s.Any(y => y.MyPileOfGuids.Contains(searchGuid)))
        .SingleOrDefaultAsync();

    result.ShouldNotBeNull();
}

在这个测试案例中，我们创建了一个三层嵌套的文档结构：

1. 根对象 RootObject
2. 包含一个 NestedObject1 对象
3. 该对象又包含一个 NestedObject2 的列表
4. 每个 NestedObject2 又包含一个 GUID 列表

测试期望通过 LINQ 查询找到包含特定 GUID 的文档，但实际上查询返回了空结果。

技术分析

问题本质

这个问题涉及到 Marten 对复杂嵌套结构的 LINQ 查询转换机制。具体来说，当查询涉及多层嵌套的集合类型（List<T>）时，Marten 生成的 SQL 查询可能无法正确反映原始 LINQ 表达式的意图。

底层机制

Marten 在底层会将 LINQ 查询转换为 PostgreSQL 的 SQL 查询。对于嵌套集合的查询，它需要：

1. 正确识别集合类型的嵌套路径
2. 生成适当的 JSON 路径表达式
3. 确保生成的 SQL 能够正确遍历嵌套的 JSON 结构

在当前的实现中，对于深度嵌套的集合查询，特别是当查询条件涉及嵌套集合的元素时（如 Any 和 Contains 的组合），转换过程可能出现问题。

解决方案

Marten 的核心维护者 Jeremy Miller 已经确认这是一个 bug，并在提交 6dbb088 中修复了这个问题。修复的关键点包括：

1. 改进了 LINQ 查询解析器对嵌套集合路径的处理
2. 确保生成的 JSON 路径表达式能够正确反映嵌套结构
3. 优化了 Any 和 Contains 操作符在嵌套上下文中的转换逻辑

开发者建议

对于使用 Marten 的开发者，在处理类似嵌套集合查询时，可以注意以下几点：

1. 版本选择：确保使用已修复该问题的 Marten 版本（7.x 及以上）
2. 查询简化：对于特别复杂的嵌套查询，考虑将其拆分为多个简单查询
3. 测试验证：对于关键的业务查询，编写单元测试确保查询行为符合预期
4. 替代方案：在性能敏感场景，可以考虑使用 Marten 的 SQL 查询功能直接编写 JSON 查询

总结

这个问题的解决展示了 Marten 作为一个成熟的文档数据库库，在面对复杂查询场景时的持续改进能力。对于.NET 开发者而言，理解这类问题的本质有助于更好地设计数据模型和查询方式，从而充分发挥文档数据库的优势。

随着 Marten 的不断发展，我们可以期待它在处理复杂文档结构查询方面会变得更加健壮和高效。开发者社区通过报告和解决这类问题，共同推动了开源项目的进步。