LangChain4j与Spring Boot集成中的API请求日志持久化方案

在基于Spring Boot的应用中集成LangChain4j（1.0.0-beta2版本）与通义千问（qwen2.5）大模型时，开发者常需要将API交互日志持久化存储以便监控分析。本文将系统介绍三种可行的技术实现方案。

方案一：SLF4j日志重定向

LangChain4j默认采用SLF4j日志门面，可通过配置日志框架实现数据库存储：

1. 在log4j2.xml中配置JDBCAppender
2. 确保包含%m（消息内容）、%d（时间戳）等关键pattern
3. 创建对应的日志表结构（建议包含timestamp、level、thread、logger、message等字段）

优势：零代码侵入，配置简单 局限：日志格式固定，难以结构化存储

方案二：ChatModelListener监听器

LangChain4j提供了标准的观察者接口，正确实现方式如下：

@Configuration
public class ObservabilityConfig {
    
    @Bean
    public ChatModelListener auditListener() {
        return new ChatModelListener() {
            private final AuditRepository repository; // 自定义的DAO接口
            
            @Override
            public void onRequest(ChatModelRequestContext ctx) {
                AuditLog log = new AuditLog()
                    .setRequestTime(Instant.now())
                    .setRequestType("CHAT")
                    .setPayload(serialize(ctx.chatRequest()));
                repository.save(log);
            }
            
            @Override
            public void onResponse(ChatModelResponseContext ctx) {
                repository.updateResponse(
                    ctx.requestToken(),
                    serialize(ctx.chatResponse()),
                    ctx.executionDuration()
                );
            }
        };
    }
}

关键实现要点：

1. 需要自行设计审计日志实体类
2. 建议采用requestToken实现请求-响应关联
3. 可记录完整的执行耗时等元数据

方案三：Spring AOP切面编程

对于需要更细粒度控制的场景，可结合Spring AOP：

@Aspect
@Component
public class LLMAuditAspect {
    
    @Autowired
    private ChatMemory chatMemory;
    
    @Around("execution(* dev.langchain4j.model.chat.ChatModel.*(..))")
    public Object auditChatInteraction(ProceedingJoinPoint pjp) {
        // 记录入参
        ChatRequest request = extractRequest(pjp.getArgs());
        AuditLog log = createLogEntry(request);
        
        try {
            Object response = pjp.proceed();
            updateLogWithResponse(log, response);
            return response;
        } catch (Exception e) {
            log.setErrorInfo(e.getMessage());
            throw e;
        } finally {
            saveLog(log);
        }
    }
}

存储设计建议

推荐的日志表结构应包含：

CREATE TABLE llm_interaction_logs (
    id BIGINT PRIMARY KEY AUTO_INCREMENT,
    session_id VARCHAR(64),
    request_token VARCHAR(128) UNIQUE,
    model_type VARCHAR(32),
    request_time TIMESTAMP(3),
    response_time TIMESTAMP(3),
    duration_ms INT,
    request_body JSON,
    response_body JSON,
    status VARCHAR(16),
    error_message TEXT,
    metadata JSON
);

性能优化建议

1. 对于高频场景采用异步写入
2. 考虑使用MongoDB等文档数据库存储JSON日志
3. 重要业务日志可引入二级缓存
4. 生产环境建议与Micrometer指标监控配合使用

总结

本文介绍了LangChain4j在Spring Boot环境下的三种日志持久化方案，开发者可根据实际场景选择合适的技术路径。对于需要完整审计追踪的场景，推荐组合使用ChatModelListener与关系型数据库；而对于需要高性能处理的场景，可考虑日志框架配合NoSQL的方案。