Langfuse v3.47.0 发布:增强提示保护与性能优化
Langfuse 是一个专注于语言模型应用的开源项目,它提供了丰富的工具和功能来帮助开发者更好地管理和优化语言模型的使用。最新发布的 v3.47.0 版本带来了一系列重要的功能增强和性能优化,特别是在提示保护、模型连接和查询性能方面有了显著改进。
新增提示保护功能
本次更新引入了"受保护标签"功能,为提示管理提供了更高级别的安全保障。在语言模型应用中,提示(prompt)往往包含敏感信息或关键业务逻辑,这项新功能允许开发者标记特定的提示标签为受保护状态,防止意外修改或删除。这对于生产环境中关键提示的保护尤为重要,可以有效避免人为操作失误导致的服务中断。
模型连接扩展
v3.47.0 版本新增了对 Gemini-2.5-Pro-Exp-03-25 模型的支持。Gemini 系列模型是当前前沿的大语言模型之一,这次扩展使得开发者能够在 Langfuse 生态中更方便地接入和使用这一先进模型。同时,Playground 功能现在能够持久化保存用户选择的模型,提升了用户体验的连贯性,避免了每次进入都需要重新选择模型的麻烦。
性能优化措施
本次更新包含多项性能优化工作:
-
移除了 Sentry 隧道配置,简化了错误监控系统的架构,减少了潜在的性能瓶颈。
-
对数据集项的输入验证进行了优化,减少了不必要的验证开销,特别是在处理大规模数据集时能够显著提升性能。
-
迁移了延迟图表和评分图表到新的查询构建器,这为后续更复杂的分析功能奠定了基础,同时提高了查询效率。
-
移除了过时的仪表盘查询,减少了系统负担,提高了整体响应速度。
其他改进与修复
在用户体验方面,本次更新调整了提示表单中提示引用按钮的位置,使其更加符合用户操作习惯。同时修复了评估详情页面的布局溢出问题,确保了界面在各种情况下的正常显示。
在数据管理方面,注释评分功能现在采用同步删除方式,并在创建路由上实现了更新插入(upsert)操作,这提高了数据操作的可靠性和一致性。
开发环境优化
开发环境的配置也得到了改进,现在明确指定了开发用 ClickHouse 版本为 24.3,确保了开发环境的一致性。同时添加了批量导出相关的环境变量到 docker-compose.yml 文件中,方便开发者进行相关功能的测试和开发。
总的来说,Langfuse v3.47.0 版本在功能丰富性和系统性能方面都取得了显著进步,特别是新增的提示保护功能和模型连接扩展,为开发者构建更安全、更强大的语言模型应用提供了更好的支持。性能优化措施则确保了系统能够高效处理日益增长的数据量和复杂查询需求。
AutoGLM-Phone-9BAutoGLM-Phone-9B是基于AutoGLM构建的移动智能助手框架,依托多模态感知理解手机屏幕并执行自动化操作。Jinja00
Kimi-K2-ThinkingKimi K2 Thinking 是最新、性能最强的开源思维模型。从 Kimi K2 开始,我们将其打造为能够逐步推理并动态调用工具的思维智能体。通过显著提升多步推理深度,并在 200–300 次连续调用中保持稳定的工具使用能力,它在 Humanity's Last Exam (HLE)、BrowseComp 等基准测试中树立了新的技术标杆。同时,K2 Thinking 是原生 INT4 量化模型,具备 256k 上下文窗口,实现了推理延迟和 GPU 内存占用的无损降低。Python00
GLM-4.6V-FP8GLM-4.6V-FP8是GLM-V系列开源模型,支持128K上下文窗口,融合原生多模态函数调用能力,实现从视觉感知到执行的闭环。具备文档理解、图文生成、前端重构等功能,适用于云集群与本地部署,在同类参数规模中视觉理解性能领先。Jinja00
HunyuanOCRHunyuanOCR 是基于混元原生多模态架构打造的领先端到端 OCR 专家级视觉语言模型。它采用仅 10 亿参数的轻量化设计,在业界多项基准测试中取得了当前最佳性能。该模型不仅精通复杂多语言文档解析,还在文本检测与识别、开放域信息抽取、视频字幕提取及图片翻译等实际应用场景中表现卓越。00
GLM-ASR-Nano-2512GLM-ASR-Nano-2512 是一款稳健的开源语音识别模型,参数规模为 15 亿。该模型专为应对真实场景的复杂性而设计,在保持紧凑体量的同时,多项基准测试表现优于 OpenAI Whisper V3。Python00
GLM-TTSGLM-TTS 是一款基于大语言模型的高质量文本转语音(TTS)合成系统,支持零样本语音克隆和流式推理。该系统采用两阶段架构,结合了用于语音 token 生成的大语言模型(LLM)和用于波形合成的流匹配(Flow Matching)模型。 通过引入多奖励强化学习框架,GLM-TTS 显著提升了合成语音的表现力,相比传统 TTS 系统实现了更自然的情感控制。Python00
Spark-Formalizer-X1-7BSpark-Formalizer 是由科大讯飞团队开发的专用大型语言模型,专注于数学自动形式化任务。该模型擅长将自然语言数学问题转化为精确的 Lean4 形式化语句,在形式化语句生成方面达到了业界领先水平。Python00