如何在 Open Interpreter 中接入本地 Ollama 或 LM Studio 模型(含远程服务器)?
如果你已经安装好了 Open Interpreter,想让模型流量不出自己的机器——比如用 Ollama 或 LM Studio 本地推理来跑一个终端编码 agent,或者把 agent 指向另一台 GPU 服务器上自建的 Ollama/LM Studio 服务——这篇文章给出从启动本地服务、指定 provider、到验证连接和排查常见提示的完整路径。整个过程不需要任何 API key:内置的 ollama 和 lmstudio 两个 provider 在 Provider 参考 中均标注为无需认证。
准备条件:安装 CLI 并先启动本地服务
Open Interpreter 提供两个内置的本地 OSS provider,它们的默认地址和覆盖方式在 docs/models.md 中固定:
| Provider | 默认 base URL | 覆盖方式 |
|---|---|---|
ollama |
http://localhost:11434/v1 |
CODEX_OSS_PORT 或 CODEX_OSS_BASE_URL |
lmstudio |
http://localhost:1234/v1 |
CODEX_OSS_PORT 或 CODEX_OSS_BASE_URL |
前提是先有可用的 interpreter 命令。官方安装方式(docs/install.md):
# macOS / Linux
curl -fsSL https://www.openinterpreter.com/install | sh
# Windows PowerShell
irm https://www.openinterpreter.com/install.ps1 | iex
安装后重启 shell,用下面命令确认二进制可用:
interpreter --version
文档同时要求:先启动本地服务,再启动 Open Interpreter。即先在 Ollama 中确认模型已加载(Ollama 默认监听 11434 端口),或在 LM Studio 中把本地 server 跑起来(默认 1234 端口),然后才执行下面的步骤。
主路径:用 --oss 和 --local-provider 直接启动
指定内置 provider 的启动命令(docs/models.md):
interpreter --oss --local-provider ollama
interpreter --oss --local-provider lmstudio
--oss表示使用本地开源 provider(docs/cli-reference.md 中定义为 "Use the configured local open source provider")。--local-provider <provider>只能取ollama或lmstudio,且与--oss搭配使用。
如果不写 --local-provider,只执行:
interpreter --oss
它会使用你已保存的 oss_provider;没有保存过则会打开一个 picker,其中会显示每个默认本地端点是否有响应——这本身就是一个连接验证手段:如果 Ollama/LM Studio 还没启动,picker 里对应端点会显示无响应。
也可以把初始提示直接挂在命令后面,启动即对话(docs/authentication.md 给出的示例):
interpreter --oss "summarize this repo with my local model"
进入 TUI 后,footer 会显示当前选中的 provider/模型;后续可随时用 /model 切换 provider 和模型(docs/models.md)。
选择具体模型
本地服务器暴露的模型 ID 需要用 -m 传入。文档中的示例(远程 LM Studio 场景):
interpreter --oss --local-provider lmstudio -m qwen/qwen3-coder-next
其中 qwen/qwen3-coder-next 是文档示例里服务器暴露的模型 ID,你应替换为你自己的服务器实际暴露的 ID——如何确认见下文"验证与排查"。
接入远程服务器:用 CODEX_OSS_BASE_URL 指向 /v1
当 Ollama 或 LM Studio 跑在另一台主机(例如局域网内的 GPU 服务器)上时,不要新建 model_providers 条目——docs/models.md 明确说明:仅为改地址而创建单独的 model_providers 条目是不支持的用法,CODEX_OSS_BASE_URL 才是受支持的覆盖方式。
做法是在启动前设置完整的 OpenAI 兼容 /v1 base URL。文档示例:
CODEX_OSS_BASE_URL=http://192.168.1.20:1234/v1 \
interpreter --oss --local-provider lmstudio -m qwen/qwen3-coder-next
http://192.168.1.20:1234/v1是文档示例地址,替换为你远程服务器的实际 IP、端口,并保留路径末尾的/v1。- 远程 Ollama 服务器同样走这条路径,把
--local-provider lmstudio换成--local-provider ollama即可。 - 除了
CODEX_OSS_BASE_URL(完整 URL),也可以只用CODEX_OSS_PORT覆盖端口;两者都是上表中列出的覆盖方式。
验证与排查
1. 确认连接是否建立
- 不带
--local-provider时,--oss打开的 picker 会显示每个默认本地端点是否在响应,这是文档给出的端点连通性检查方式。 - 启动后进入任意会话,footer 显示当前激活的 provider 与模型。
2. 出现 Model metadata for ... not found 怎么办
这是文档专门说明的提示:它表示本地服务器返回的模型 ID 不在 Open Interpreter 的兼容目录(compatibility catalog)里,并不单独代表服务器连接失败。按文档给出的处理顺序:
- 确认服务器实际暴露的确切模型 ID;
- 用
-m传入同一个值; - 更新 Open Interpreter 以获得最新的 catalog。
Open Interpreter 会带着 fallback metadata 继续工作,但部分模型专属控制项或行为可能不可用。
3. 选错模型 ID 时的对照
模型元数据来自多个分层来源:优先查询活动 provider 的 /models 端点,再用内置目录补全(docs/models.md "Where Model Metadata Comes From")。所以 picker 中列出的模型 ID 通常可直接从服务器的 /models 端点核对,用服务器暴露的原始 ID 传给 -m 即可。
限制与边界
- 内置的
ollama、lmstudioprovider 使用responseswire API(docs/providers.md 内置运行时 provider 表),无需任何env_key或 API key。 - 修改这两个内置 provider 的地址只有
CODEX_OSS_PORT/CODEX_OSS_BASE_URL这一条受支持路径;文档明确不建议为此创建model_providers条目。 - 首次运行时 TUI 会引导你选择认证方式,其中就包含"通过 Ollama 或 LM Studio 接入本地模型"(docs/quickstart.md);之后用
/model随时改回或切换。 - 平台方面,安装器支持 macOS、64 位 Linux(发布包使用 musl)以及 Windows PowerShell/WSL(docs/install.md);对 Git 的建议适用于仓库感知会话,与接入本地模型无直接依赖。
完成以上步骤后,判断标准是:interpreter --oss --local-provider ollama(或 lmstudio)能进入 TUI、footer 显示对应的本地 provider 与所选模型,且提示能正常返回本地模型的回复;若遇到 Model metadata for ... not found,按"验证与排查"一节处理即可。
更多上下文可参考 本地模型文档、Provider 文档 和 CLI 参考。
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0629
MiniCPM5-2BMiniCPM5-2B 是一款面向端侧、本地部署和资源受限场景的 2B 稠密 Transformer,能够达到同尺寸开源模型 SOTA 水平。Markdown00
GLM-5.3GLM-5.3 与 GLM-5.2 使用相同的基座模型——所有提升均来自后训练。与 GLM-5.2 相比,它在复杂编程和长程任务上的表现显著提升。Jinja00
HivisionIDPhotos⚡️HivisionIDPhotos: a lightweight and efficient AI ID photos tools. 一个轻量级的AI证件照制作算法。Python07
DragonOSDragonOS is an operating system developed from scratch using Rust, with Linux compatibility. It is designed for **Serverless** scenarios. 使用Rust从0自研内核,具有Linux兼容性的操作系统,面向云计算Serverless场景而设计。Rust00
Spark-X2.5-1.7BSpark-X2.5-1.7B 旨在让强大的 AI 更加实用、高效且易于获取。这些模型在广泛的日常任务中表现出色,涵盖对话、写作、翻译、推理、编程、工具调用和智能体工作流,并在同等规模的开源模型中取得领先结果。Spark-X2.5 将面向效率的架构与最高 1M tokens 的原生上下文窗口相结合,并支持 200 多种语言。Python00