首页
/ Effect-TS/effect项目AI模块重大更新解析:全新架构与功能增强

Effect-TS/effect项目AI模块重大更新解析:全新架构与功能增强

2025-06-07 01:47:55作者:钟日瑜

项目简介

Effect-TS/effect是一个基于TypeScript的函数式编程库,提供了一套完整的Effect系统实现。该项目通过强大的类型系统和函数式编程范式,帮助开发者构建可靠、可组合的应用程序。本次发布的0.15.0版本主要针对其中的AI模块进行了重大重构,引入了多项改进和新特性。

核心重构内容

服务命名规范化

Completions服务现已更名为AiLanguageModelEmbeddings服务则更名为AiEmbeddingModel。这种命名变更不仅更准确地反映了服务的功能定位,也使整个API更加直观易懂。

Completions.createCompletions.toolkit方法已统一为AiLanguageModel.generateText,而Completions.streamCompletions.toolkitStream则统一为AiLanguageModel.streamText。这种简化显著提升了API的易用性。

结构化输出优化

Completions.structured方法现已更名为AiLanguageModel.generateObject,并返回一个专门的AiResponse.WithStructuredOutput类型。这一改进直接包含了结果值的value属性,开发者不再需要手动解包Option类型,大大简化了代码。

模型与计划接口改进

.provide方法已更名为.use,这一变更使语义更加清晰——开发者是在"使用"模型或计划提供的服务来运行特定代码。

AiPlan.fromModel构造函数已简化为AiPlan.make,现在支持在创建初始AiPlan时直接整合多个步骤。例如,可以轻松地创建一个包含多个模型尝试的计划:

const plan = yield* AiPlan.make(
  { model: OpenAiLanguageModel.model("gpt-4"), attempts: 1 },
  { model: AnthropicLanguageModel.model("claude-3-7-sonnet-latest"), attempts: 1 },
  { model: AnthropicLanguageModel.model("claude-3-5-sonnet-latest"), attempts: 1 }
)

输入输出类型增强

AiInputAiResponse类型经过重构,现在能够容纳更多来自模型提供者的信息和元数据,包括推理输出和提示缓存令牌使用情况等。

开发者现在可以访问特定于提供者的元数据。例如,使用OpenAI生成音频时,可以检查输入和输出音频令牌的使用情况:

const response = yield* model.use(getDadJoke)
const metadata = response.getProviderMetadata(OpenAiLanguageModel.ProviderMetadata)

工具包系统重构

AiToolkit经历了全面重构,简化了工具集合的创建和在模型请求中的使用。新增的AiTool数据类型使工具定义更加简单直观。

AiToolkit.implement已更名为AiToolkit.toLayer,使API意图更加明确。现在定义处理程序的方式与@effect/rpc库中的处理程序定义非常相似。

一个完整的工具包实现示例如下:

// 定义工具
export class DadJokeTools extends AiToolkit.make(
  AiTool.make("GetDadJoke", {
    description: "Fetch a dad joke from ICanHazDadJoke API",
    success: DadJoke,
    parameters: Schema.Struct({ searchTerm: Schema.String })
  })
) {}

// 实现处理程序
export const DadJokeToolHandlers = DadJokeTools.toLayer(
  Effect.gen(function* () {
    const icanhazdadjoke = yield* ICanHazDadJoke
    return {
      GetDadJoke: (params) => 
        icanhazdadjoke.search(params.searchTerm)
          .pipe(Effect.flatMap((response) => Array.head(response.results)))
    }
  })
)

// 使用工具包
const response = yield* languageModel.generateText({
  prompt: "Come up with a dad joke about pirates",
  toolkit: DadJokeTools
})

总结

Effect-TS/effect 0.15.0版本的AI模块重构带来了多项重要改进:

  1. 服务命名更加清晰准确,API设计更加一致
  2. 结构化输出处理更加简单直接
  3. 模型和计划接口更加直观易用
  4. 输入输出类型能够承载更多元数据信息
  5. 工具包系统全面升级,工具定义和使用更加简洁

这些改进使开发者能够更高效地构建基于AI的应用程序,同时保持代码的清晰性和类型安全性。特别是工具包系统的重构,为构建复杂的AI工作流提供了更加强大的基础。

对于现有用户,建议仔细阅读变更说明并进行必要的代码迁移。新用户则可以从这个更加成熟和强大的API设计中受益,快速上手构建AI应用。

登录后查看全文
热门项目推荐
相关项目推荐

热门内容推荐

最新内容推荐

项目优选

收起
ohos_react_nativeohos_react_native
React Native鸿蒙化仓库
C++
176
261
RuoYi-Vue3RuoYi-Vue3
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
860
511
ShopXO开源商城ShopXO开源商城
🔥🔥🔥ShopXO企业级免费开源商城系统,可视化DIY拖拽装修、包含PC、H5、多端小程序(微信+支付宝+百度+头条&抖音+QQ+快手)、APP、多仓库、多商户、多门店、IM客服、进销存,遵循MIT开源协议发布、基于ThinkPHP8框架研发
JavaScript
93
15
openGauss-serveropenGauss-server
openGauss kernel ~ openGauss is an open source relational database management system
C++
129
182
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
259
300
kernelkernel
deepin linux kernel
C
22
5
cherry-studiocherry-studio
🍒 Cherry Studio 是一款支持多个 LLM 提供商的桌面客户端
TypeScript
596
57
CangjieCommunityCangjieCommunity
为仓颉编程语言开发者打造活跃、开放、高质量的社区环境
Markdown
1.07 K
0
HarmonyOS-ExamplesHarmonyOS-Examples
本仓将收集和展示仓颉鸿蒙应用示例代码,欢迎大家投稿,在仓颉鸿蒙社区展现你的妙趣设计!
Cangjie
398
371
Cangjie-ExamplesCangjie-Examples
本仓将收集和展示高质量的仓颉示例代码,欢迎大家投稿,让全世界看到您的妙趣设计,也让更多人通过您的编码理解和喜爱仓颉语言。
Cangjie
332
1.08 K