Theia AI 项目中系统提示角色的技术演进与实现方案

在 Theia IDE 的 AI 功能开发过程中，团队遇到了一个关于系统提示(system prompt)处理的技术挑战。本文将深入分析该问题的技术背景、解决方案的设计思路以及最终实现。

问题背景

在 AI 对话系统中，不同类型的消息角色(如"system"、"user"、"assistant")对于模型的理解和响应有着重要影响。Theia 项目最初采用了一种简单的处理方式：当不支持开发者消息(developerMessage)时，默认将前两条消息都标记为"user"角色。

然而，这种处理方式与某些特定模型(如 DeepSeek reasoner)的预期不符，这些模型对系统提示有特殊要求。具体表现为：

1. 不接受前两条消息都是"user"角色的情况
2. 不支持开发者消息
3. 需要特定的系统提示处理方式

技术方案演进

最初提出的解决方案是引入两个新配置项：

1. SystemPromptRole - 用于覆盖系统角色(如设为"system"或"user")
2. mergeSystemPrompt - 将系统提示与第一条用户消息合并

经过讨论，团队成员提出了更精细化的配置方案：

developerMessageSettings: {
  role?: string, // 开发者消息的角色名称，默认为'developer'
  includeInMessages?: 'putAsFirstMessage' | 'mergeWithFirstUserMessage' | 'skip'
}

这个方案提供了三种处理策略：

1. putAsFirstMessage - 作为第一条消息(当前默认行为)
2. mergeWithFirstUserMessage - 与第一条用户消息合并
3. skip - 跳过开发者消息

最终实现决策

考虑到支持任意字符串作为角色可能带来的复杂性和潜在问题，团队最终采用了更简洁的枚举方案：

enum: ['user', 'system', 'developer', 'mergeWithFirstUserMessage', 'skip']

这一设计有以下技术考量：

1. 明确限定了支持的角色类型，避免不可预期的行为
2. 将处理策略(mergeWithFirstUserMessage和skip)与角色定义分离，保持逻辑清晰
3. 简化了配置选项，同时满足不同模型的需求

技术意义

这一改进对 Theia AI 功能的发展具有重要意义：

1. 增强了与不同AI模型的兼容性
2. 提供了更灵活的消息处理策略
3. 为未来可能出现的特殊提示需求预留了扩展空间
4. 通过明确的枚举值而非自由字符串，提高了系统的稳定性和可维护性

总结

Theia 团队通过这次技术演进，解决了特定AI模型的系统提示兼容性问题，同时建立了一套可扩展的消息处理机制。这种平衡灵活性与稳定性的设计思路，值得在类似的技术场景中借鉴。