OpenSPG/KAG项目中使用Ollama部署bge-m3模型的网络配置问题解析

在使用OpenSPG/KAG项目构建知识图谱时，许多开发者会遇到向量生成失败的问题，特别是在使用Ollama部署bge-m3模型的情况下。本文将深入分析这一问题的根源，并提供详细的解决方案。

问题现象分析

当开发者在Docker环境中部署Ollama服务后，尝试在KAG项目中配置使用bge-m3模型时，通常会遇到"Connection error"的错误提示。这种错误表明KAG服务无法连接到Ollama提供的API端点。

根本原因

问题的核心在于Docker容器间的网络隔离性。当Ollama服务部署在一个Docker容器中，而KAG服务运行在另一个容器(release-openspg-server)中时，直接使用127.0.0.1(localhost)作为API地址是无效的，因为每个容器都有自己的网络命名空间。

解决方案

方案一：使用容器间可访问的IP地址

1. 确定Ollama容器的实际IP地址
2. 修改KAG配置文件中的base_url参数，将127.0.0.1替换为Ollama容器的实际IP
3. 确保两个容器在同一Docker网络中

方案二：使用内置的BGE模型

对于快速验证或中文场景，可以使用内置的BAAI/bge-base-zh-v1.5模型：

1. 修改配置文件中的vectorizer参数为LocalBGEVectorizer
2. 指定模型路径为~/.cache/vectorizer/BAAI/bge-base-zh-v1.5
3. 设置正确的向量维度(768)

注意：内置模型仅使用CPU计算，在非中文数据集上性能可能不佳。

最佳实践建议

1. 对于生产环境，建议使用专用GPU服务器部署向量化服务
2. 在Docker环境中，考虑使用自定义网络或主机网络模式简化容器间通信
3. 对于中文知识图谱应用，BGE系列模型通常能提供更好的效果
4. 定期检查模型服务的可用性和响应时间

通过正确配置网络连接和选择合适的向量化模型，开发者可以顺利解决OpenSPG/KAG项目中的向量生成问题，为后续的知识图谱构建打下坚实基础。