Bolt.diy 连接外部 Ollama 服务器的配置指南

问题背景

在使用 Bolt.diy 项目时，许多开发者会遇到无法正确连接外部 Ollama 服务器的问题。具体表现为：在 Bolt.diy 界面中选择 Ollama 作为提供程序后，无法显示可用的模型列表，并出现 API 错误提示。

核心问题分析

经过技术排查，发现这主要是由于 Ollama 服务器的跨域访问限制导致的。Ollama 默认配置下不允许来自其他域或 IP 的请求，即使网络连接本身是通畅的。

详细解决方案

1. 确认基础网络连通性

首先需要确保 Bolt.diy 服务器能够访问 Ollama 服务器。可以通过以下命令测试：

curl http://<ollama-server-ip>:11434/api/tags

如果能够返回模型列表，说明基础网络连接正常。

2. 配置 Ollama 服务器

关键步骤是正确配置 Ollama 服务器以允许外部访问：

对于 Ubuntu 系统（systemd 服务）

1. 编辑 Ollama 服务配置：

sudo systemctl edit ollama

2. 添加以下环境变量配置：

[Service]
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"

3. 重启 Ollama 服务：

sudo systemctl restart ollama

配置参数说明

• OLLAMA_HOST=0.0.0.0：使 Ollama 监听所有网络接口
• OLLAMA_ORIGINS=*：允许来自任何源的跨域请求（生产环境应考虑更严格的设置）

3. 其他可选优化参数

根据实际需求，还可以配置以下参数：

Environment="OLLAMA_NUM_PARALLEL=8"      # 并行处理数
Environment="OLLAMA_MAX_LOADED_MODELS=2"  # 最大加载模型数
Environment="OLLAMA_KEEP_ALIVE=3600"      # 模型保持时间(秒)

4. Bolt.diy 客户端配置

在 Bolt.diy 的 Settings 页面中：

1. 选择 Ollama 作为提供程序
2. 输入 Ollama 服务器的完整 URL（如 http://192.168.1.100:11434）
3. API Key 字段可以留空或随意填写（Ollama 不需要 API 密钥）

验证配置

完成上述步骤后，返回 Bolt.diy 主界面：

1. 选择 Ollama 作为模型提供方
2. 应该能够看到 Ollama 服务器上的所有可用模型列表
3. 可以正常开始对话

安全建议

对于生产环境，建议：

1. 使用更精确的 OLLAMA_ORIGINS 设置，只允许特定域或 IP
2. 考虑在 Ollama 前设置反向代理（如 Nginx）并配置 HTTPS
3. 使用防火墙规则限制可以访问 Ollama 端口的 IP

总结

通过正确配置 Ollama 服务器的网络访问权限，特别是跨域设置，可以解决 Bolt.diy 无法显示外部 Ollama 模型的问题。这一解决方案不仅适用于 Bolt.diy，对于其他需要远程访问 Ollama 的场景也同样适用。

对于开发者而言，理解这类问题的本质（跨域访问限制）有助于解决类似的其他服务集成问题。在实际部署中，应根据具体环境平衡功能需求与安全考量。