Microsoft GraphRAG 项目中 JSON 解析问题的分析与修复

在微軟開源的 GraphRAG 項目中，開發者發現了一個關於 JSON 解析的關鍵問題。這個問題發生在處理大型語言模型（如 Ollama + Gemma2）返回的響應時，導致解析結果不完整。

問題本質

當系統接收到包含多層嵌套結構的 JSON 響應時，原始的正則表達式模式 r"\{(.*)\}" 會錯誤地匹配到最內層的 JSON 對象，而不是整個 JSON 文檔。這導致解析結果只保留了第一個匹配到的對象，丟失了其他重要數據。

技術細節分析

問題的核心在於正則表達式的貪婪匹配特性。在原始代碼中：

_pattern = r"\{(.*)\}"
_match = re.search(_pattern, input)

這種寫法會匹配從第一個 { 到最後一個 } 之間的所有內容，而當 JSON 中包含多個嵌套對象時，就會導致錯誤匹配。

解決方案

修復方案需要考慮以下幾個技術要點：

1. 使用非貪婪匹配模式，確保匹配到最外層的 JSON 結構
2. 處理可能存在的代碼塊標記（如 ```json）
3. 考慮 JSON 文檔中可能存在的空白字符和換行

理想的解決方案應該能夠：

• 正確識別完整的 JSON 文檔邊界
• 保留原始格式和縮進
• 處理各種邊界情況

對開發者的建議

在處理 LLM 響應時，開發者應該注意：

1. 不要過度依賴簡單的正則表達式來解析結構化數據
2. 考慮使用專門的 JSON 解析庫來驗證和提取內容
3. 為解析邏輯添加充分的測試用例，覆蓋各種響應格式
4. 考慮響應中可能存在的標記語言（如 Markdown）的影響

這個問題的修復不僅解決了當前的功能缺陷，也為處理複雜的 LLM 響應提供了更好的範例。對於使用 GraphRAG 項目的開發者來說，理解這個問題的本質有助於在未來開發中避免類似的陷阱。