Bolt.diy 项目中使用 LM Studio 本地大语言模型的配置指南

问题背景

在使用 Bolt.diy 项目时，许多开发者希望通过 LM Studio 运行本地大语言模型(LLM)来生成代码。然而在实际配置过程中，经常会遇到 CORS 跨域问题、API 请求失败以及意外的 Ollama 警告等问题。本文将详细介绍如何正确配置 LM Studio 与 Bolt.diy 的集成。

核心问题分析

从实际案例来看，主要存在三个典型问题：

1. CORS 跨域问题：虽然已在 LM Studio 中启用 CORS 选项，但 API 请求仍然失败
2. API 端点不匹配：Bolt.diy 请求的 API 端点与 LM Studio 提供的端点不一致
3. Ollama 警告干扰：未使用 Ollama 服务却出现相关警告信息

详细解决方案

1. LM Studio 基础配置

首先确保 LM Studio 已正确配置：

• 在服务器设置中启用 "CORS" 选项
• 启用 "Serve on Local Network"(在本地网络提供服务)选项
• 确认服务器监听的端口(默认 1234)

2. 正确的 API 端点配置

LM Studio 提供以下标准端点：

GET  /v1/models
POST /v1/chat/completions
POST /v1/completions
POST /v1/embeddings

在 Bolt.diy 的环境变量配置文件(.env.local)中，需要正确设置这些端点地址。例如：

VITE_LMSTUDIO_URL=http://localhost:1234

3. 网络访问问题排查

当在 WSL 中直接运行 Bolt.diy 时：

• 确保 WSL 可以访问主机的本地网络
• 如果使用 localhost 不工作，尝试使用主机的实际 IP 地址
• 检查防火墙设置，确保端口未被阻止

4. 关于 Ollama 警告

即使不使用 Ollama 服务，Bolt.diy 默认会尝试连接 Ollama。这些警告不会影响 LM Studio 的功能使用，可以安全忽略。如需彻底移除，可以检查项目代码中与 Ollama 相关的初始化部分。

最佳实践建议

1. 环境隔离：考虑使用 Docker 容器化部署，可以避免许多环境依赖问题
2. 日志监控：同时监控 Bolt.diy 和 LM Studio 的日志输出，便于快速定位问题
3. 逐步验证：
   • 先用简单 HTTP 客户端(如 curl)测试 LM Studio 端点是否可达
   • 再测试 Bolt.diy 的基础功能
   • 最后进行完整集成测试

总结

通过正确配置 LM Studio 的网络服务选项和 API 端点，开发者可以顺利在 Bolt.diy 项目中使用本地运行的大语言模型。Docker 部署方式通常更为可靠，但在 WSL 环境中通过适当配置也能获得良好效果。遇到问题时，建议按照网络连接、API 端点和权限配置的顺序逐步排查。