OpenSPG/KAG项目中Ollama配置问题的分析与解决

问题背景

在使用OpenSPG/KAG项目时，用户遇到了一个关于Ollama配置的问题。具体表现为：虽然通过curl命令能够成功调用Ollama API获取响应，但在项目配置中却出现了"invalid llm config"的错误提示，并伴随404页面未找到的错误。

问题现象

用户报告了两个关键现象：

1. 通过curl命令直接调用Ollama API能够正常工作：

curl http://localhost:11434/api/generate -d '{
  "model": "tripplyons/r1-distill-qwen-7b:latest",
  "prompt": "Why is the sky blue?"
}'

命令返回了预期的模型响应，证明Ollama服务本身运行正常。

2. 在OpenSPG/KAG项目中配置相同的LLM模型时却出现错误：

unknown error
<class 'RuntimeError'>: invalid llm config: {'creator': 'openspg', 'default': True, 'createTime': '2025-02-19 17:39:36', 'base_url': 'http://192.168.3.17:11434/api/', 'model': 'tripplyons/r1-distill-qwen-7b:latest', 'type': 'Ollama', 'llm_id': 'bd8b4b88-c5a1-49e1-a459-7b98b1316c9e', 'desc': 'r1-distill-qwen-7b'}, for details: 404 page not found

问题分析

从错误信息来看，问题可能出在以下几个方面：

1. URL配置差异：curl测试使用的是localhost，而项目配置使用的是IP地址192.168.3.17，可能存在网络访问问题。

2. API端点问题：项目配置中的base_url以斜杠结尾（'http://192.168.3.17:11434/api/'），而curl命令中没有这个斜杠，可能导致端点路径拼接错误。

3. 模型名称验证：项目可能对模型名称有额外的验证逻辑，而curl命令直接传递原始模型名称。

4. 请求格式：项目可能使用了与curl不同的请求格式或头部信息，导致Ollama服务返回404。

解决方案

根据用户后续的反馈，问题已经解决。虽然没有提供具体解决步骤，但基于类似问题的经验，可能的解决方案包括：

1. 统一URL格式：确保项目配置中的base_url与curl测试使用的URL完全一致，包括端口号和路径格式。

2. 检查模型可用性：确认配置的模型'tripplyons/r1-distill-qwen-7b:latest'确实存在于Ollama的模型库中，并且已正确下载。

3. 验证网络连接：确保项目运行环境能够访问配置的IP地址和端口。

4. 调整API端点：尝试移除base_url末尾的斜杠，或者确保项目代码正确处理URL拼接。

最佳实践建议

为了避免类似问题，建议在配置OpenSPG/KAG与Ollama集成时：

1. 先在命令行使用curl测试Ollama服务是否正常工作
2. 确保项目配置中的URL、模型名称等参数与测试时使用的完全一致
3. 检查网络连接和安全设置，确保项目运行环境能够访问Ollama服务
4. 查看项目文档，了解是否有特定的配置格式要求
5. 逐步测试，先确保基础连接正常，再添加复杂配置

总结

OpenSPG/KAG与Ollama的集成问题通常源于配置细节的不一致。通过仔细对比命令行测试与项目配置的差异，大多数问题都能得到解决。对于开发者而言，理解底层API调用方式和项目配置要求是解决此类集成问题的关键。