Bolt.diy 项目中的 LMStudio 和 Ollama 模型连接问题解析

问题现象

在 Bolt.diy 项目中，用户在使用本地模型服务时遇到了"WARN Constants Failed to get LMStudio models: fetch failed"的警告信息。这个问题主要出现在以下场景：

1. 使用 Ollama 本地服务时，特别是 Qwen 2.5 Coder 32B 模型
2. 在 Google Cloud 的 Windows Server 2019 虚拟机上运行
3. 通过 Chrome 浏览器访问本地服务

问题根源

经过分析，这个问题主要由以下几个因素导致：

1. 环境变量配置不当：项目默认配置中没有正确设置本地模型服务的 API 地址
2. IP 地址格式问题：使用 localhost 而非 127.0.0.1 可能导致 IPv6 相关的问题
3. UI 设置覆盖：前端界面中的设置可能会覆盖 .env 文件中的配置

解决方案

1. 正确配置环境变量

在项目根目录下的 .env 文件中，需要正确配置以下参数：

OLLAMA_API_BASE_URL=http://127.0.0.1:11434
LMSTUDIO_API_BASE_URL=http://127.0.0.1:1234

特别注意：

• 必须使用 127.0.0.1 而非 localhost
• 文件需要重命名为 .env.local 才能生效

2. 前端界面设置

在 Bolt.diy 的 Web 界面中，需要确保：

1. 进入设置菜单
2. 关闭 LM Studio 选项（如果不需要）
3. 检查 Ollama 的 API 地址是否为空或正确

3. 服务验证

确保本地服务正常运行：

1. 确认 Ollama 服务已启动并监听 11434 端口
2. 检查终端运行日志是否有错误信息
3. 尝试直接访问 API 端点验证服务可用性

技术细节

IPv6 相关问题

使用 localhost 在某些系统上可能会解析为 IPv6 地址(::1)，而服务可能只监听 IPv4 地址。这就是为什么使用 127.0.0.1 更可靠的原因。

配置优先级

Bolt.diy 项目的配置加载顺序为：

1. 前端界面设置（最高优先级）
2. .env.local 文件
3. .env 文件（最低优先级）

因此，即使正确配置了 .env 文件，如果前端界面中有设置，也会被覆盖。

最佳实践

1. 统一使用 127.0.0.1：避免使用 localhost，确保 IPv4 连接
2. 保持前端设置为空：除非需要特殊配置，否则让系统使用 .env 文件中的设置
3. 检查服务日志：遇到问题时首先查看服务端和客户端的日志输出
4. 环境隔离：在云环境中运行时，确保网络配置允许本地回环通信

结论

Bolt.diy 项目与本地模型服务的连接问题通常可以通过正确的环境变量配置解决。关键在于理解配置的优先级和网络连接的基本原理。对于开发者而言，掌握这些调试技巧能够快速定位和解决类似的服务连接问题。