promptfoo 0.113.3版本发布:提升测试框架稳定性与功能优化
promptfoo是一个专注于AI提示工程的开源测试框架,它帮助开发者系统地评估和比较不同提示词(prompt)的效果。通过自动化测试、评分和可视化比较,promptfoo使AI应用开发团队能够更高效地优化提示词质量。
核心修复与改进
状态对象处理优化
本次版本修复了当state.answer包含对象类型数据时可能出现的Zod验证错误。Zod是一个TypeScript的schema验证库,promptfoo使用它来确保测试过程中数据的完整性和一致性。这个修复使得框架能够更稳定地处理复杂的数据结构,特别是在处理AI模型返回的嵌套JSON响应时。
云端测试工作流增强
针对云端测试场景,开发团队做出了两项重要改进:
-
当从云端加载redteam测试文件时,现在会正确使用当前工作目录作为基准路径。这一改动解决了之前可能出现的路径解析问题,确保了测试文件和相关资源能够被正确加载。
-
增加了对无效命令组合的明确错误提示。当用户尝试运行"redteam run"命令时,如果指定了云端目标但没有提供必要的配置,系统现在会抛出清晰的错误信息,而不是静默失败或产生不可预期的行为。这种显式的错误处理大大提升了开发体验。
性别偏见检测插件改进
性别偏见检测插件(bias:gender)得到了重要修复。这个插件用于评估AI模型输出中可能存在的性别偏见问题。修复后的版本能够更准确地生成测试用例,帮助开发者识别和消除模型响应中的潜在偏见,这对于构建公平、包容的AI应用至关重要。
技术栈更新
项目持续保持对依赖库的更新:
- OpenAI客户端库从4.100.0升级到4.103.0
- AWS Bedrock运行时客户端从3.812.0升级到3.816.0
- Anthropic SDK从0.51.0升级到0.52.0
这些更新不仅带来了性能改进和新功能支持,也确保了与各AI平台API的兼容性。
监控与构建优化
为了更好理解用户如何使用redteam功能,开发团队在遥测数据中添加了isRedteam属性。这种细粒度的使用数据收集有助于团队优先开发最常用的功能,同时不会影响用户隐私。
构建系统也得到了增强,将构建作业的超时时间从3分钟延长到4分钟,以应对日益复杂的构建需求,确保大型项目的构建过程能够顺利完成。
总结
promptfoo 0.113.3版本虽然没有引入重大新功能,但在稳定性、错误处理和用户体验方面做出了多项重要改进。这些看似微小的优化实际上对于日常使用promptfoo进行AI提示词测试和评估的开发者来说意义重大,它们共同提升了框架的可靠性和开发效率。
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0137- DDeepSeek-V4-ProDeepSeek-V4-Pro(总参数 1.6 万亿,激活 49B)面向复杂推理和高级编程任务,在代码竞赛、数学推理、Agent 工作流等场景表现优异,性能接近国际前沿闭源模型。Python00
GLM-5.1GLM-5.1是智谱迄今最智能的旗舰模型,也是目前全球最强的开源模型。GLM-5.1大大提高了代码能力,在完成长程任务方面提升尤为显著。和此前分钟级交互的模型不同,它能够在一次任务中独立、持续工作超过8小时,期间自主规划、执行、自我进化,最终交付完整的工程级成果。Jinja00
MiniCPM-V-4.6这是 MiniCPM-V 系列有史以来效率与性能平衡最佳的模型。它以仅 1.3B 的参数规模,实现了性能与效率的双重突破,在全球同尺寸模型中登顶,全面超越了阿里 Qwen3.5-0.8B 与谷歌 Gemma4-E2B-it。Jinja00
MiniMax-M2.7MiniMax-M2.7 是我们首个深度参与自身进化过程的模型。M2.7 具备构建复杂智能体应用框架的能力,能够借助智能体团队、复杂技能以及动态工具搜索,完成高度精细的生产力任务。Python00
MusicFreeDesktop插件化、定制化、无广告的免费音乐播放器TypeScript00