在gptel项目中处理LLM响应中的Markdown代码块问题

在Emacs生态系统中，gptel是一个强大的工具，它允许用户与大型语言模型(LLM)进行交互。然而，在实际使用过程中，开发者可能会遇到LLM响应格式不符合预期的问题，特别是当模型固执地添加不必要的Markdown代码块标记时。

问题背景

许多代码生成型LLM(如Qwen 2.5 Coder)倾向于在响应中添加Markdown代码块标记(```)，即使明确提示不要这样做。这会导致在gptel中显示的内容包含多余的代码块标记，影响用户体验。

解决方案

gptel提供了gptel-post-rewrite-functions钩子，允许用户在LLM响应被插入缓冲区后对其进行后处理。我们可以利用这个钩子来清理响应中的Markdown代码块标记。

实现思路

1. 同步处理：不需要使用run-at-time进行异步处理，Emacs的单线程特性保证了同步操作的安全性
2. 直接操作缓冲区：避免将文本分割为字符串列表，直接在缓冲区中进行操作更高效
3. 精准定位：通过移动点(point)到响应开始和结束位置，检查并删除代码块标记

具体实现

(defun cleanup-llm-rewrite-response (beg end)
  "Remove Markdown-style code fences from the GPTel rewrite response."
  (save-excursion
    ;; 移除结束标记
    (goto-char end)
    (beginning-of-line)
    (when (looking-at "^```$")
      (delete-region (line-beginning-position) (line-end-position)))

    ;; 移除开始标记
    (goto-char beg)
    (when (looking-at "^```.*$")
      (delete-region (line-beginning-position) (line-end-position))
      (delete-char 1) ;; 移除多余的新行
    ))

使用方式

将上述函数添加到gptel-post-rewrite-functions钩子中：

(add-hook 'gptel-post-rewrite-functions #'cleanup-llm-rewrite-response)

技术要点

1. 缓冲区操作：使用save-excursion保证点(point)的位置在函数执行前后保持一致
2. 正则匹配：looking-at函数用于检测行首的代码块标记
3. 区域删除：delete-region删除整行标记，delete-char处理多余的新行

扩展思考

这种方法不仅适用于处理Markdown代码块标记，还可以扩展用于其他响应格式的清理工作。例如：

• 移除多余的标题标记
• 规范化列表格式
• 调整代码缩进

通过合理利用gptel提供的钩子机制，我们可以灵活地定制LLM响应的显示效果，提升交互体验。

总结

在Emacs中使用gptel与LLM交互时，理解并合理利用其提供的扩展点非常重要。通过编写简单的后处理函数，我们可以有效地解决模型输出格式不符合预期的问题，使工具更加贴合个人工作流程。这种思路也可以应用于其他Emacs插件的定制开发中。