LLamaSharp项目中的ChatSession使用问题解析

问题背景

在使用LLamaSharp项目进行对话系统开发时，开发者经常会遇到关于ChatSession的错误使用问题。其中最常见的就是"ArgumentException: Cannot add a system message after another message"异常，这通常是由于对ChatSession工作机制理解不足导致的。

核心问题分析

该问题的本质在于ChatSession对消息添加顺序有严格要求。系统消息(System Message)必须作为对话的初始设置，一旦对话开始后就不能再添加系统消息。这种设计是为了保持对话上下文的一致性。

错误使用模式

典型的错误使用模式包括：

1. 在每次处理用户输入时都重新初始化ChatHistory并添加系统消息
2. 在对话过程中重复添加系统消息
3. 错误地复用ChatHistory对象

正确解决方案

初始化阶段

正确的做法是在初始化阶段一次性设置好系统消息和初始对话：

public static void InitAI()
{
    var parameters = new ModelParams(modelPath)
    {
        ContextSize = 1024,
        Seed = 1337,
        GpuLayerCount = 80
    };

    var chatHistory = new ChatHistory();
    chatHistory.AddMessage(AuthorRole.System, "系统提示信息...");
    chatHistory.AddMessage(AuthorRole.User, "Hello, Bob.");
    chatHistory.AddMessage(AuthorRole.Assistant, "Hello. How may I help you today?");

    var model = LLamaWeights.LoadFromFile(parameters);
    var context = model.CreateContext(parameters);
    var executor = new InteractiveExecutor(context);
    var session = new ChatSession(executor, chatHistory);
    
    Program._session = session;
}

处理用户输入阶段

在处理用户输入时，只需添加用户消息：

public async static void ProcInput()
{
    string userPrompt = MainForm.txtInput.Text;
    MainForm.txtOutput.AppendText("\nUser: " + userPrompt + "\n");
    MainForm.txtInput.Text = "";

    var msg = new ChatHistory.Message(AuthorRole.User, userPrompt);

    await foreach (var text in Program._session.ChatAsync(msg, true, new InferenceParams() 
    {
        Temperature = 0.9f, 
        AntiPrompts = new List<string> { "User:" }
    }))
    {
        MainForm.txtOutput.AppendText(text);
    }
}

最佳实践建议

1. 系统消息只设置一次：在初始化阶段完成所有系统消息的设置
2. 保持对话连续性：不要在每次交互时重置ChatHistory
3. 合理使用InferenceParams：根据实际需求调整生成参数
4. 错误处理：添加适当的异常处理机制
5. 资源管理：确保正确释放模型资源

总结

理解LLamaSharp中ChatSession的工作机制对于构建稳定的对话系统至关重要。遵循"系统消息只初始化一次"的原则可以避免大多数常见错误。开发者应该将系统配置与对话交互逻辑分离，这样才能充分利用LLamaSharp的强大功能。

对于初学者，建议先从项目中的示例代码开始，理解基本工作流程后再进行自定义开发。遇到问题时，可以仔细检查消息添加的顺序和角色分配是否正确。