LangServe项目中RunnableWithMessageHistory与聊天交互的集成实践

在LangServe项目开发过程中，许多开发者尝试将RunnableWithMessageHistory与聊天交互功能集成时遇到了类型错误问题。本文将深入分析问题本质，并提供完整的解决方案。

问题背景分析

当开发者尝试在FastAPI应用中同时使用RunnableWithMessageHistory和playground_type='chat'参数时，系统会抛出"TypeError: issubclass() arg 1 must be a class"错误。这个错误表面看似简单，但实际上反映了LangChain核心组件与Pydantic模型之间的兼容性问题。

根本原因探究

经过技术分析，该问题主要源于以下两个技术点：

1. RunnableWithMessageHistory的输出模式处理机制存在缺陷，特别是在处理输出模式时未能正确识别Pydantic模型类
2. LangServe的聊天交互功能对输入输出格式有严格要求，需要特定的消息结构

完整解决方案

基础配置

首先确保开发环境配置正确：

from fastapi import FastAPI
from langchain_core.messages import HumanMessage, AIMessage, SystemMessage
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain_core.runnables.history import RunnableWithMessageHistory
from langchain.memory import InMemoryChatMessageHistory
from pydantic import BaseModel, Field
from typing import List, Union

核心组件实现

1. 定义LLM模型和提示模板：

prompt = ChatPromptTemplate.from_messages([
    ("system", "您是一个专业的AI助手..."),
    MessagesPlaceholder(variable_name="messages"),
])

chain = prompt | llm | StrOutputParser()

2. 实现消息历史管理：

def get_session_history():
    return InMemoryChatMessageHistory()

3. 定义输入模型：

class InputChat(BaseModel):
    messages: List[Union[HumanMessage, AIMessage, SystemMessage]] = Field(
        ...,
        description="当前对话的聊天消息"
    )

关键解决方案

通过添加输出解析器解决类型错误：

from langchain_core.output_parsers.string import StrOutputParser

json_parser = StrOutputParser()

chain_with_parser = (
    RunnableWithMessageHistory(
        chain,
        get_session_history,
        input_messages_key="input",
        history_messages_key="chat_history"
    ).with_types(input_type=InputChat)
    | json_parser
)

路由配置

add_routes(
    app,
    chain_with_parser,
    path="/chat",
    playground_type="default"  # 注意此处使用默认playground
)

技术要点说明

1. 输出解析器的作用：StrOutputParser在这里不仅处理输出格式，还解决了RunnableWithMessageHistory与Pydantic的兼容性问题

2. 聊天交互限制：LangServe的聊天playground对输入格式有严格要求，开发者需要注意：

   • 必须使用特定格式的消息字典
   • 输出必须是AIMessage或字符串

3. 版本兼容性：确认使用Pydantic 2.8.2和pydantic-core 2.20.1版本组合

进阶建议

对于需要完整聊天交互功能的开发者，可以考虑：

1. 自定义输入处理器，确保符合LangServe的聊天playground要求
2. 实现中间件转换层，处理不同格式的消息转换
3. 考虑使用Redis等持久化存储替代内存存储，提高生产环境可靠性

通过本文的解决方案，开发者可以顺利实现带有历史记忆功能的LangServe应用，同时理解底层技术原理，为更复杂的应用场景打下基础。