promptfoo 0.113.3版本发布:提升测试框架稳定性与功能优化
promptfoo是一个专注于AI提示工程的开源测试框架,它帮助开发者系统地评估和比较不同提示词(prompt)的效果。通过自动化测试、评分和可视化比较,promptfoo使AI应用开发团队能够更高效地优化提示词质量。
核心修复与改进
状态对象处理优化
本次版本修复了当state.answer包含对象类型数据时可能出现的Zod验证错误。Zod是一个TypeScript的schema验证库,promptfoo使用它来确保测试过程中数据的完整性和一致性。这个修复使得框架能够更稳定地处理复杂的数据结构,特别是在处理AI模型返回的嵌套JSON响应时。
云端测试工作流增强
针对云端测试场景,开发团队做出了两项重要改进:
-
当从云端加载redteam测试文件时,现在会正确使用当前工作目录作为基准路径。这一改动解决了之前可能出现的路径解析问题,确保了测试文件和相关资源能够被正确加载。
-
增加了对无效命令组合的明确错误提示。当用户尝试运行"redteam run"命令时,如果指定了云端目标但没有提供必要的配置,系统现在会抛出清晰的错误信息,而不是静默失败或产生不可预期的行为。这种显式的错误处理大大提升了开发体验。
性别偏见检测插件改进
性别偏见检测插件(bias:gender)得到了重要修复。这个插件用于评估AI模型输出中可能存在的性别偏见问题。修复后的版本能够更准确地生成测试用例,帮助开发者识别和消除模型响应中的潜在偏见,这对于构建公平、包容的AI应用至关重要。
技术栈更新
项目持续保持对依赖库的更新:
- OpenAI客户端库从4.100.0升级到4.103.0
- AWS Bedrock运行时客户端从3.812.0升级到3.816.0
- Anthropic SDK从0.51.0升级到0.52.0
这些更新不仅带来了性能改进和新功能支持,也确保了与各AI平台API的兼容性。
监控与构建优化
为了更好理解用户如何使用redteam功能,开发团队在遥测数据中添加了isRedteam属性。这种细粒度的使用数据收集有助于团队优先开发最常用的功能,同时不会影响用户隐私。
构建系统也得到了增强,将构建作业的超时时间从3分钟延长到4分钟,以应对日益复杂的构建需求,确保大型项目的构建过程能够顺利完成。
总结
promptfoo 0.113.3版本虽然没有引入重大新功能,但在稳定性、错误处理和用户体验方面做出了多项重要改进。这些看似微小的优化实际上对于日常使用promptfoo进行AI提示词测试和评估的开发者来说意义重大,它们共同提升了框架的可靠性和开发效率。
ERNIE-4.5-VL-28B-A3B-ThinkingERNIE-4.5-VL-28B-A3B-Thinking 是 ERNIE-4.5-VL-28B-A3B 架构的重大升级,通过中期大规模视觉-语言推理数据训练,显著提升了模型的表征能力和模态对齐,实现了多模态推理能力的突破性飞跃Python00
Kimi-K2-ThinkingKimi K2 Thinking 是最新、性能最强的开源思维模型。从 Kimi K2 开始,我们将其打造为能够逐步推理并动态调用工具的思维智能体。通过显著提升多步推理深度,并在 200–300 次连续调用中保持稳定的工具使用能力,它在 Humanity's Last Exam (HLE)、BrowseComp 等基准测试中树立了新的技术标杆。同时,K2 Thinking 是原生 INT4 量化模型,具备 256k 上下文窗口,实现了推理延迟和 GPU 内存占用的无损降低。Python00
MiniMax-M2MiniMax-M2是MiniMaxAI开源的高效MoE模型,2300亿总参数中仅激活100亿,却在编码和智能体任务上表现卓越。它支持多文件编辑、终端操作和复杂工具链调用Python00
HunyuanVideo-1.5暂无简介00
MiniCPM-V-4_5MiniCPM-V 4.5 是 MiniCPM-V 系列中最新且功能最强的模型。该模型基于 Qwen3-8B 和 SigLIP2-400M 构建,总参数量为 80 亿。与之前的 MiniCPM-V 和 MiniCPM-o 模型相比,它在性能上有显著提升,并引入了新的实用功能Python00
Spark-Formalizer-X1-7BSpark-Formalizer 是由科大讯飞团队开发的专用大型语言模型,专注于数学自动形式化任务。该模型擅长将自然语言数学问题转化为精确的 Lean4 形式化语句,在形式化语句生成方面达到了业界领先水平。Python00
GOT-OCR-2.0-hf阶跃星辰StepFun推出的GOT-OCR-2.0-hf是一款强大的多语言OCR开源模型,支持从普通文档到复杂场景的文字识别。它能精准处理表格、图表、数学公式、几何图形甚至乐谱等特殊内容,输出结果可通过第三方工具渲染成多种格式。模型支持1024×1024高分辨率输入,具备多页批量处理、动态分块识别和交互式区域选择等创新功能,用户可通过坐标或颜色指定识别区域。基于Apache 2.0协议开源,提供Hugging Face演示和完整代码,适用于学术研究到工业应用的广泛场景,为OCR领域带来突破性解决方案。00