首页
/ Portkey-AI网关v1.9.7版本发布:增强插件功能与超时配置

Portkey-AI网关v1.9.7版本发布:增强插件功能与超时配置

2025-06-08 10:06:30作者:邬祺芯Juliet

Portkey-AI网关是一个开源API网关项目,专注于为AI应用提供高效、灵活的请求路由和管理功能。作为AI应用架构中的重要组件,它能够处理各种AI服务提供商的API调用,并提供负载均衡、缓存、重试等高级功能。

本次发布的v1.9.7版本主要带来了两项重要改进:Webhook插件的突变操作支持和插件超时配置的灵活性增强。这些改进进一步提升了网关的适应性和可控性,特别是在处理复杂业务场景时。

Webhook插件支持突变操作

在v1.9.7版本中,Webhook插件现在可以支持突变(mutation)操作。这一改进意味着开发者现在可以通过Webhook插件修改请求或响应的内容,而不仅仅是简单的转发或观察。

突变操作在以下场景中特别有用:

  1. 数据转换:当后端服务返回的数据格式不符合前端需求时,可以在网关层进行转换
  2. 敏感信息过滤:在响应返回给客户端前,移除或替换敏感数据
  3. 请求增强:在请求转发到上游服务前,添加额外的认证信息或业务参数
  4. 错误处理:统一处理错误响应格式,提供一致的客户端体验

这项功能通过扩展Webhook插件的能力边界,使得网关能够承担更多业务逻辑处理的责任,减少后端服务的负担。

可配置的插件超时时间

v1.9.7版本引入了插件超时时间的可配置性。在此之前,插件的执行时间受到系统默认限制,现在开发者可以根据具体业务需求为每个插件设置独立的超时时间。

这一改进带来了几个显著优势:

  1. 灵活性:不同插件可以根据其业务重要性设置不同的超时阈值
  2. 可靠性:关键插件可以设置较长的超时时间,避免因网络波动导致的误判
  3. 资源优化:非关键插件可以设置较短的超时时间,快速失败并释放资源

超时配置特别适用于以下场景:

  • 依赖外部服务的插件(如第三方API调用)
  • 执行复杂计算的插件
  • 在高延迟网络环境下运行的插件

Azure流选项参数映射优化

本次更新还包含了对Azure流选项参数映射的优化。这一改进使得在使用Azure AI服务时,流式传输相关的配置能够更准确地映射到Azure的API参数上。

具体优化包括:

  • 更精细地控制流式响应的行为
  • 支持更多Azure特有的流式传输选项
  • 改善参数传递的准确性和一致性

这些改进使得Portkey-AI网关在Azure环境下的集成更加无缝,为开发者提供了更接近原生Azure API的使用体验。

总结

Portkey-AI网关v1.9.7版本通过增强插件功能和改进配置灵活性,进一步巩固了其作为AI应用架构中关键组件的地位。Webhook插件的突变支持为业务逻辑处理提供了新的可能性,而可配置的超时时间则提升了系统的稳定性和可靠性。这些改进使得开发者能够构建更加健壮、灵活的AI应用系统,同时保持对复杂业务场景的良好适应性。

登录后查看全文
热门项目推荐
相关项目推荐

热门内容推荐

最新内容推荐

项目优选

收起
ohos_react_nativeohos_react_native
React Native鸿蒙化仓库
C++
178
263
RuoYi-Vue3RuoYi-Vue3
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
868
514
openGauss-serveropenGauss-server
openGauss kernel ~ openGauss is an open source relational database management system
C++
130
183
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
288
323
HarmonyOS-ExamplesHarmonyOS-Examples
本仓将收集和展示仓颉鸿蒙应用示例代码,欢迎大家投稿,在仓颉鸿蒙社区展现你的妙趣设计!
Cangjie
398
373
CangjieCommunityCangjieCommunity
为仓颉编程语言开发者打造活跃、开放、高质量的社区环境
Markdown
1.07 K
0
ShopXO开源商城ShopXO开源商城
🔥🔥🔥ShopXO企业级免费开源商城系统,可视化DIY拖拽装修、包含PC、H5、多端小程序(微信+支付宝+百度+头条&抖音+QQ+快手)、APP、多仓库、多商户、多门店、IM客服、进销存,遵循MIT开源协议发布、基于ThinkPHP8框架研发
JavaScript
93
15
note-gennote-gen
一款跨平台的 Markdown AI 笔记软件,致力于使用 AI 建立记录和写作的桥梁。
TSX
83
4
cherry-studiocherry-studio
🍒 Cherry Studio 是一款支持多个 LLM 提供商的桌面客户端
TypeScript
600
58
GitNextGitNext
基于可以运行在OpenHarmony的git,提供git客户端操作能力
ArkTS
10
3