LangChain-ChatGLM 知识库创建错误分析与解决方案

问题背景

在使用 LangChain-ChatGLM 项目创建知识库时，用户遇到了向量库加载失败的问题。错误信息显示系统未能正确初始化 Embeddings 模型，具体表现为无法找到有效的 openai_api_key 参数，最终导致向量库 samples 加载失败。

错误原因分析

1. Embeddings 初始化失败：系统尝试使用 LocalAIEmbeddings 时，由于缺少必要的 openai_api_key 参数而抛出验证错误。

2. 向量库加载异常：当 Embeddings 初始化失败返回 None 后，后续操作尝试调用 None 对象的 embed_documents 方法，导致 AttributeError。

3. 配置问题：深层原因在于项目配置中未能正确设置本地模型服务的参数，特别是当使用 xinference 作为模型平台时，需要明确指定模型UID和相关连接参数。

解决方案

方法一：通过命令行配置模型平台

对于 Linux 系统用户，可以通过以下命令配置 xinference 平台参数：

chatchat-config model --set_model_platforms "[{
    \"platform_name\": \"xinference\",
    \"platform_type\": \"xinference\",
    \"api_base_url\": \"http://127.0.0.1:9997/v1\",
    \"api_key\": \"EMPT\",
    \"api_concurrencies\": 5,
    \"llm_models\": [\"your-model-name\"],
    \"embed_models\": [\"your-embedding-model\"]
}]"

注意：

• 需要将 your-model-name 替换为实际注册的模型UID
• 将 your-embedding-model 替换为实际的嵌入模型名称
• 根据实际部署情况调整 api_base_url

方法二：直接修改配置文件

对于无法使用命令行配置的环境，可以直接修改项目配置文件：

1. 定位到 chatchat/configs/_model_config.py 文件
2. 在 MODEL_PLATFORMS 列表中添加或修改 xinference 平台配置：

{
    "platform_name": "xinference",
    "platform_type": "xinference",
    "api_base_url": "http://127.0.0.1:9997/v1",
    "api_key": "EMPT",
    "api_concurrencies": 5,
    "llm_models": ["your-model-name"],
    "embed_models": ["your-embedding-model"],
    "image_models": [],
    "reranking_models": [],
    "speech2text_models": [],
    "tts_models": []
}

注意事项

1. 模型UID一致性：确保配置中指定的模型名称与 xinference 注册时使用的UID完全一致。

2. 多模型配置：如果部署了多个模型，需要在 llm_models 列表中列出所有可用模型。

3. 版本兼容性：从0.3.1版本开始，项目优化了配置方式，修改配置后无需重启服务。

4. Windows系统：Windows用户可能需要通过修改配置文件而非命令行来调整设置。

最佳实践建议

1. 在注册模型时，建议使用简单明确的模型UID，避免特殊字符。

2. 部署完成后，先测试模型服务是否能正常响应API请求。

3. 对于生产环境，建议将配置信息通过环境变量管理，而非硬编码在配置文件中。

4. 定期检查模型服务的可用性，设置适当的健康检查机制。

通过以上方法，用户应该能够解决 LangChain-ChatGLM 项目中因配置不当导致的知识库创建失败问题，顺利构建本地知识库系统。