Bolt.diy项目中Ollama模型版本显示问题的分析与解决方案

问题现象描述

在Bolt.diy项目中，当用户选择Ollama作为LLM提供者时，7b版本的模型在UI下拉菜单中无法正确显示版本信息。这个问题主要出现在Windows和Linux平台上，使用Brave浏览器访问时尤为明显。

问题根源分析

经过技术团队深入排查，发现该问题主要由以下几个因素导致：

1. IPv6地址解析问题：当使用localhost:11434作为Ollama服务地址时，系统会尝试将其解析为IPv6地址::1:11434，导致连接被拒绝(ECONNREFUSED)。

2. Docker环境配置不当：在Docker容器中运行时，容器内部无法直接访问宿主机的localhost或127.0.0.1地址。

3. 环境变量缺失：Bolt.diy后端代码中需要OLLAMA_API_BASE_URL环境变量来正确构建服务地址。

详细解决方案

基础解决方案

对于大多数用户，最简单的解决方法是：

1. 将Ollama服务地址从http://localhost:11434改为http://127.0.0.1:11434
2. 在Bolt.diy的设置页面中，Ollama提供者配置处同样使用http://127.0.0.1:11434

这个修改可以避免IPv6地址解析问题，确保连接能够正常建立。

Docker环境下的特殊配置

对于使用Docker运行Bolt.diy的用户，需要额外注意以下配置：

1. 在docker-compose.yaml文件中添加环境变量配置：

environment:
  - OLLAMA_API_BASE_URL=http://host.docker.internal:11434

2. 确保Ollama容器配置了正确的网络设置：

extra_hosts:
  - "host.docker.internal:host-gateway"

3. 对于Podman用户，需要将配置中的docker改为containers：

extra_hosts:
  - "host.containers.internal:host-gateway"

HTTPS环境配置

如果项目运行在HTTPS环境下，还需要注意：

1. 确保Ollama服务也配置了HTTPS，避免混合内容(Mixed Content)问题
2. 在Ollama容器中设置允许跨域请求：

environment:
  - OLLAMA_ORIGINS="*"

注意：生产环境中应避免使用通配符(*)作为允许的源，应根据实际情况配置具体的域名。

高级问题排查

对于仍然遇到问题的用户，可以按照以下步骤进行深入排查：

1. 验证Ollama服务可用性：

   • 直接访问http://127.0.0.1:11434/api/tags，确认服务是否正常运行
   • 检查返回的JSON数据是否包含预期的模型信息

2. 检查环境变量：

   • 确认.env文件中设置了正确的Ollama地址
   • 确保Bolt UI设置中的提供者配置与.env文件一致

3. 查看日志信息：

   • 检查Bolt.diy后端日志中的错误信息
   • 特别关注是否有ECONNREFUSED或TypeError等错误

4. 系统资源监控：

   • 对于模型加载缓慢的问题，监控系统资源使用情况
   • 考虑使用较小规模的模型(如1.5b)作为替代方案

性能优化建议

针对用户反馈的模型运行性能问题，提供以下优化建议：

1. 模型选择：

   • 对于16GB内存+RTX 4060配置的设备，7b模型应该可以正常运行
   • 如果遇到卡顿，可以尝试Qwen 7b等优化过的模型

2. 资源配置：

   • 确保为Docker容器分配足够的内存资源
   • 考虑使用GPU加速，配置Docker使用NVIDIA运行时

3. 参数调优：

   • 在模型配置中调整max_tokens等参数
   • 根据硬件能力适当降低并发请求数量

总结

Bolt.diy项目中Ollama模型版本显示问题主要源于网络配置和环境变量设置。通过本文提供的解决方案，用户可以快速恢复功能并优化使用体验。对于更复杂的环境(如Docker、HTTPS等)，需要特别注意网络拓扑和安全配置。随着项目的持续发展，建议关注官方更新以获取更完善的功能支持。