gptel项目v0.9.8版本发布:全面支持LLM工具调用与多模型集成
gptel是一个Emacs生态下的LLM(大语言模型)交互框架,它为用户提供了在Emacs编辑器中直接与各类大语言模型进行交互的能力。该项目通过简洁的API和灵活的配置选项,让开发者能够在Emacs环境中无缝集成ChatGPT、Gemini、Claude等主流大语言模型服务。
核心功能升级
本次发布的v0.9.8版本带来了多项重要改进,其中最引人注目的是对LLM工具调用(Tool Use/Function Calling)的全面支持。这一功能允许开发者将自定义的Elisp函数作为"工具"注册到gptel中,LLM可以根据上下文自动调用这些工具完成特定任务。例如,开发者可以注册文件系统访问、网络搜索或Emacs状态查询等工具,LLM在对话过程中会根据需要调用这些工具获取信息或执行操作。
工具调用功能的实现基于描述性元数据机制。每个工具需要提供清晰的文本描述,说明其参数和返回值,这使得LLM能够理解工具的用途并正确调用。虽然当前版本尚未内置任何工具,但通过gptel-get-tool和setf的组合,开发者可以灵活地注册和管理自定义工具。
多模型支持扩展
v0.9.8版本显著扩展了对各类大语言模型的支持:
-
Gemini模型:新增了对
gemini-2.0-flash、gemini-2.0-pro-exp等多个新模型的支持,同时移除了不再受API支持的gemini-pro模型。 -
Anthropic Claude:新增对
claude-3-7-sonnet-20250219模型的支持,包括其特有的"推理"输出内容处理。 -
OpenAI:新增对
o1、o3-mini和gpt-4.5-preview等新模型的支持。 -
其他模型:从原先基于OpenAI兼容模式的支持升级为原生API支持,包括支持引用功能和"推理"输出处理。
用户体验优化
-
重写的gptel-menu界面:新版界面提供了更清晰的请求预览功能,直观展示将要发送的内容和输出位置,帮助用户更好地理解gptel的默认提示行为和各种重定向效果。
-
请求模拟(dry-run)功能:用户现在可以预览即将发送的完整请求内容,并直接在预览界面进行编辑后继续发送,这一功能对于调试复杂提示特别有用。
-
上下文管理增强:支持将整个目录递归添加到全局上下文中,
gptel-context-remove-all命令变为交互式,便于管理。 -
响应分隔符自定义:通过
gptel-response-separator选项,用户可以自定义提示和响应之间的分隔符样式。 -
推理内容处理:新增
gptel-include-reasoning选项,用于控制是否显示LLM生成的"思考"或"推理"内容。
技术架构改进
-
缓存机制:通过
gptel-cache选项(目前仅Anthropic API支持),可以缓存已发送内容,显著降低后续请求的成本和处理时间。 -
新的钩子系统:
gptel-prompt-filter-hook:在发送前对文本进行任意转换gptel-post-request-hook:请求发送后执行预备/重置代码gptel-post-rewrite-hook:重写请求完成后执行
-
Org模式增强:
- 属性抽屉等Org元素现在会被自动从提示文本中剥离
- 改进了对混合Org/Markdown标记响应的处理
- 新增
gptel-org-convert-response控制自动转换行为
-
API抽象层:新增
gptel-get-backend函数(支持setf),简化了后端管理和配置。
开发者工具链
-
重写功能迭代:
gptel-rewrite现在支持对响应进行多次迭代改进。 -
一次性设置:通过Transient菜单,可以为单次请求临时覆盖全局或缓冲区本地设置。
-
错误修复:解决了Org模式下并发请求可能导致的响应混淆问题,修复了流式响应时源代码块可能无法正确高亮的问题。
兼容性说明
-
移除了几个已废弃的变量和函数,开发者应使用其替代方案:
gptel-send-menu→gptel-menugptel-host→gptel-make-openaigptel-playback→gptel-streamgptel--debug→gptel-log-level
-
Org模式下发送活动区域时,现在会自动应用Org模式特定规则(如分支上下文)。
gptel v0.9.8通过上述改进,进一步巩固了其作为Emacs生态下最强大的LLM交互框架的地位。特别是工具调用功能的引入,为开发者提供了将LLM能力深度集成到工作流中的新途径,预示着Emacs作为"可编程编辑器"的无限可能性。
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0201
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0130
MiMo-V2.5-Pro-FP4-DFlashMiMo-V2.5-Pro-FP4-DFlash 是驱动 MiMo-V2.5-Pro-UltraSpeed 的底层模型: FP4 量化骨干网络:对 MoE 专家采用 MXFP4 量化,同时保持模型其他部分的更高精度,在几乎无损质量的前提下,显著减小模型体积并降低内存带宽压力。 BF16 DFlash 草稿生成器:用于块扩散推测解码,每次前向传播可生成一整个块的 tokens,并让骨干网络一步完成验证。 两者协同作用,既降低了每参数的位宽,又减少了骨干网络前向传播的次数,而这两者正是万亿参数模型解码过程中的两大主要成本来源。Python00
JoyAI-EchoJoyAI-Echo,这是一个独立的、仅用于推理的版本,旨在实现分钟级多镜头音视频生成。它采用了经过蒸馏的DMD生成器、配对的跨模态记忆以及故事级别的一致性。其性能的核心在于,一个跨模态视听记忆库能够在长达五分钟的视频中保持角色外观和语音音色的一致性。同时,一个训练后处理流程将基于记忆的强化学习与分布匹配蒸馏相结合,实现了7.5倍的速度提升,显著增强了视觉质量和对齐效果。00
AstrBot✨ 易上手的多平台 LLM 聊天机器人及开发框架 ✨ 平台支持 QQ、QQ频道、Telegram、微信、企微、飞书 | OpenAI、DeepSeek、Gemini、硅基流动、月之暗面、Ollama、OneAPI、Dify 等。附带 WebUI。Python08
handy-ollama动手学Ollama,CPU玩转大模型部署,在线阅读地址:https://datawhalechina.github.io/handy-ollama/Jupyter Notebook07