首页
/ Promptfoo 0.114.5版本发布:安全测试与稳定性提升

Promptfoo 0.114.5版本发布:安全测试与稳定性提升

2025-06-09 22:11:07作者:牧宁李

Promptfoo是一个专注于AI提示工程和测试的开源框架,它帮助开发者评估、比较和优化各种AI模型的提示效果。该工具支持多种主流AI提供商,并提供丰富的测试功能,是AI应用开发中不可或缺的质量保障工具。

安全测试功能优化

本次版本在安全测试(Red Team)方面进行了多项改进。首先移除了内存中毒插件(memory poisoning plugin)的策略排除问题,这个插件原本用于测试模型对恶意输入的防御能力。开发团队还优化了代理发现信息的暗黑模式显示,提升了用户体验。

在安全策略方面,新版本增加了严重性级别分类,使安全测试结果更加结构化。同时改进了编码策略的原始文本存储机制,确保测试过程的可追溯性。特别值得一提的是,新增了emoji编码策略,这种创新的测试方式可以帮助开发者评估模型对非传统输入的处理能力。

性能与稳定性增强

在性能优化方面,本次更新修复了maxConcurrency未定义时的回退处理问题,确保并发控制更加健壮。命令行界面(CLI)增加了Ctrl+C的终端清理功能,使得开发者在中断操作时能够获得更干净的退出体验。

对于OpenAI聊天补全提供商的继承机制,新版本改进了日志记录,使调试过程更加透明。这些改进显著提升了框架在复杂场景下的稳定性和可维护性。

测试与质量保障

测试覆盖率的提升是本次更新的另一亮点。新增了内存中毒插件的单元测试,改进了测试环境的设置和拆卸机制,实现了更好的测试隔离。Web用户界面部分增加了遥测钩子测试,确保用户行为追踪功能的可靠性。

开发团队还引入了Tusk测试运行器工作流,这是一个专门用于单元测试的新工具,进一步强化了项目的自动化测试能力。这些措施共同提升了Promptfoo的整体代码质量和可靠性。

开发者体验改进

在开发者体验方面,本次更新优化了自定义策略模板和生成提示的解析器,使安全测试配置更加灵活。依赖项也进行了例行升级,包括Anthropic AI SDK从0.52.0版本升级到0.53.0。

Promptfoo持续关注开发者社区的成长,本次更新特别欢迎了新贡献者@use-tusk的加入,体现了项目开放包容的开发文化。

这个版本虽然没有引入重大功能变更,但在安全测试、稳定性和开发者体验方面的多项改进,使Promptfoo作为一个专业的AI提示测试工具更加成熟可靠。对于使用AI模型进行应用开发的团队来说,及时升级到这个版本将获得更好的测试体验和更可靠的质量保障。

登录后查看全文
热门项目推荐
相关项目推荐

项目优选

收起
kernelkernel
deepin linux kernel
C
22
6
docsdocs
OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
205
2.18 K
ohos_react_nativeohos_react_native
React Native鸿蒙化仓库
C++
208
285
pytorchpytorch
Ascend Extension for PyTorch
Python
62
95
RuoYi-Vue3RuoYi-Vue3
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
977
575
nop-entropynop-entropy
Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台,包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分,采用java语言实现,可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用
Java
9
1
ops-mathops-math
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
550
86
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
1.02 K
399
communitycommunity
本项目是CANN开源社区的核心管理仓库,包含社区的治理章程、治理组织、通用操作指引及流程规范等基础信息
393
27
MateChatMateChat
前端智能化场景解决方案UI库,轻松构建你的AI应用,我们将持续完善更新,欢迎你的使用与建议。 官网地址:https://matechat.gitcode.com
1.2 K
133