promptfoo 0.113.3版本发布:提升测试框架稳定性与功能优化
promptfoo是一个专注于AI提示工程的开源测试框架,它帮助开发者系统地评估和比较不同提示词(prompt)的效果。通过自动化测试、评分和可视化比较,promptfoo使AI应用开发团队能够更高效地优化提示词质量。
核心修复与改进
状态对象处理优化
本次版本修复了当state.answer包含对象类型数据时可能出现的Zod验证错误。Zod是一个TypeScript的schema验证库,promptfoo使用它来确保测试过程中数据的完整性和一致性。这个修复使得框架能够更稳定地处理复杂的数据结构,特别是在处理AI模型返回的嵌套JSON响应时。
云端测试工作流增强
针对云端测试场景,开发团队做出了两项重要改进:
-
当从云端加载redteam测试文件时,现在会正确使用当前工作目录作为基准路径。这一改动解决了之前可能出现的路径解析问题,确保了测试文件和相关资源能够被正确加载。
-
增加了对无效命令组合的明确错误提示。当用户尝试运行"redteam run"命令时,如果指定了云端目标但没有提供必要的配置,系统现在会抛出清晰的错误信息,而不是静默失败或产生不可预期的行为。这种显式的错误处理大大提升了开发体验。
性别偏见检测插件改进
性别偏见检测插件(bias:gender)得到了重要修复。这个插件用于评估AI模型输出中可能存在的性别偏见问题。修复后的版本能够更准确地生成测试用例,帮助开发者识别和消除模型响应中的潜在偏见,这对于构建公平、包容的AI应用至关重要。
技术栈更新
项目持续保持对依赖库的更新:
- OpenAI客户端库从4.100.0升级到4.103.0
- AWS Bedrock运行时客户端从3.812.0升级到3.816.0
- Anthropic SDK从0.51.0升级到0.52.0
这些更新不仅带来了性能改进和新功能支持,也确保了与各AI平台API的兼容性。
监控与构建优化
为了更好理解用户如何使用redteam功能,开发团队在遥测数据中添加了isRedteam属性。这种细粒度的使用数据收集有助于团队优先开发最常用的功能,同时不会影响用户隐私。
构建系统也得到了增强,将构建作业的超时时间从3分钟延长到4分钟,以应对日益复杂的构建需求,确保大型项目的构建过程能够顺利完成。
总结
promptfoo 0.113.3版本虽然没有引入重大新功能,但在稳定性、错误处理和用户体验方面做出了多项重要改进。这些看似微小的优化实际上对于日常使用promptfoo进行AI提示词测试和评估的开发者来说意义重大,它们共同提升了框架的可靠性和开发效率。
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0194
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0121
MiMo-V2.5-Pro-FP4-DFlashMiMo-V2.5-Pro-FP4-DFlash 是驱动 MiMo-V2.5-Pro-UltraSpeed 的底层模型: FP4 量化骨干网络:对 MoE 专家采用 MXFP4 量化,同时保持模型其他部分的更高精度,在几乎无损质量的前提下,显著减小模型体积并降低内存带宽压力。 BF16 DFlash 草稿生成器:用于块扩散推测解码,每次前向传播可生成一整个块的 tokens,并让骨干网络一步完成验证。 两者协同作用,既降低了每参数的位宽,又减少了骨干网络前向传播的次数,而这两者正是万亿参数模型解码过程中的两大主要成本来源。Python00
JoyAI-EchoJoyAI-Echo,这是一个独立的、仅用于推理的版本,旨在实现分钟级多镜头音视频生成。它采用了经过蒸馏的DMD生成器、配对的跨模态记忆以及故事级别的一致性。其性能的核心在于,一个跨模态视听记忆库能够在长达五分钟的视频中保持角色外观和语音音色的一致性。同时,一个训练后处理流程将基于记忆的强化学习与分布匹配蒸馏相结合,实现了7.5倍的速度提升,显著增强了视觉质量和对齐效果。00
AstrBot✨ 易上手的多平台 LLM 聊天机器人及开发框架 ✨ 平台支持 QQ、QQ频道、Telegram、微信、企微、飞书 | OpenAI、DeepSeek、Gemini、硅基流动、月之暗面、Ollama、OneAPI、Dify 等。附带 WebUI。Python05
handy-ollama动手学Ollama,CPU玩转大模型部署,在线阅读地址:https://datawhalechina.github.io/handy-ollama/Jupyter Notebook06