首页
/ 如何在 Open Interpreter 中接入本地 Ollama 或 LM Studio 模型(含远程服务器)?

如何在 Open Interpreter 中接入本地 Ollama 或 LM Studio 模型(含远程服务器)?

2026-09-08 16:23:51作者:姚月梅Lane

如果你已经安装好了 Open Interpreter,想让模型流量不出自己的机器——比如用 Ollama 或 LM Studio 本地推理来跑一个终端编码 agent,或者把 agent 指向另一台 GPU 服务器上自建的 Ollama/LM Studio 服务——这篇文章给出从启动本地服务、指定 provider、到验证连接和排查常见提示的完整路径。整个过程不需要任何 API key:内置的 ollamalmstudio 两个 provider 在 Provider 参考 中均标注为无需认证。

准备条件:安装 CLI 并先启动本地服务

Open Interpreter 提供两个内置的本地 OSS provider,它们的默认地址和覆盖方式在 docs/models.md 中固定:

Provider 默认 base URL 覆盖方式
ollama http://localhost:11434/v1 CODEX_OSS_PORTCODEX_OSS_BASE_URL
lmstudio http://localhost:1234/v1 CODEX_OSS_PORTCODEX_OSS_BASE_URL

前提是先有可用的 interpreter 命令。官方安装方式(docs/install.md):

# macOS / Linux
curl -fsSL https://www.openinterpreter.com/install | sh
# Windows PowerShell
irm https://www.openinterpreter.com/install.ps1 | iex

安装后重启 shell,用下面命令确认二进制可用:

interpreter --version

文档同时要求:先启动本地服务,再启动 Open Interpreter。即先在 Ollama 中确认模型已加载(Ollama 默认监听 11434 端口),或在 LM Studio 中把本地 server 跑起来(默认 1234 端口),然后才执行下面的步骤。

主路径:用 --oss 和 --local-provider 直接启动

指定内置 provider 的启动命令(docs/models.md):

interpreter --oss --local-provider ollama
interpreter --oss --local-provider lmstudio
  • --oss 表示使用本地开源 provider(docs/cli-reference.md 中定义为 "Use the configured local open source provider")。
  • --local-provider <provider> 只能取 ollamalmstudio,且与 --oss 搭配使用。

如果不写 --local-provider,只执行:

interpreter --oss

它会使用你已保存的 oss_provider;没有保存过则会打开一个 picker,其中会显示每个默认本地端点是否有响应——这本身就是一个连接验证手段:如果 Ollama/LM Studio 还没启动,picker 里对应端点会显示无响应。

也可以把初始提示直接挂在命令后面,启动即对话(docs/authentication.md 给出的示例):

interpreter --oss "summarize this repo with my local model"

进入 TUI 后,footer 会显示当前选中的 provider/模型;后续可随时用 /model 切换 provider 和模型(docs/models.md)。

选择具体模型

本地服务器暴露的模型 ID 需要用 -m 传入。文档中的示例(远程 LM Studio 场景):

interpreter --oss --local-provider lmstudio -m qwen/qwen3-coder-next

其中 qwen/qwen3-coder-next 是文档示例里服务器暴露的模型 ID,你应替换为你自己的服务器实际暴露的 ID——如何确认见下文"验证与排查"。

接入远程服务器:用 CODEX_OSS_BASE_URL 指向 /v1

当 Ollama 或 LM Studio 跑在另一台主机(例如局域网内的 GPU 服务器)上时,不要新建 model_providers 条目——docs/models.md 明确说明:仅为改地址而创建单独的 model_providers 条目是不支持的用法,CODEX_OSS_BASE_URL 才是受支持的覆盖方式。

做法是在启动前设置完整的 OpenAI 兼容 /v1 base URL。文档示例:

CODEX_OSS_BASE_URL=http://192.168.1.20:1234/v1 \
  interpreter --oss --local-provider lmstudio -m qwen/qwen3-coder-next
  • http://192.168.1.20:1234/v1 是文档示例地址,替换为你远程服务器的实际 IP、端口,并保留路径末尾的 /v1
  • 远程 Ollama 服务器同样走这条路径,把 --local-provider lmstudio 换成 --local-provider ollama 即可。
  • 除了 CODEX_OSS_BASE_URL(完整 URL),也可以只用 CODEX_OSS_PORT 覆盖端口;两者都是上表中列出的覆盖方式。

验证与排查

1. 确认连接是否建立

  • 不带 --local-provider 时,--oss 打开的 picker 会显示每个默认本地端点是否在响应,这是文档给出的端点连通性检查方式。
  • 启动后进入任意会话,footer 显示当前激活的 provider 与模型。

2. 出现 Model metadata for ... not found 怎么办

这是文档专门说明的提示:它表示本地服务器返回的模型 ID 不在 Open Interpreter 的兼容目录(compatibility catalog)里,并不单独代表服务器连接失败。按文档给出的处理顺序:

  1. 确认服务器实际暴露的确切模型 ID;
  2. -m 传入同一个值;
  3. 更新 Open Interpreter 以获得最新的 catalog。

Open Interpreter 会带着 fallback metadata 继续工作,但部分模型专属控制项或行为可能不可用。

3. 选错模型 ID 时的对照

模型元数据来自多个分层来源:优先查询活动 provider 的 /models 端点,再用内置目录补全(docs/models.md "Where Model Metadata Comes From")。所以 picker 中列出的模型 ID 通常可直接从服务器的 /models 端点核对,用服务器暴露的原始 ID 传给 -m 即可。

限制与边界

  • 内置的 ollamalmstudio provider 使用 responses wire API(docs/providers.md 内置运行时 provider 表),无需任何 env_key 或 API key。
  • 修改这两个内置 provider 的地址只有 CODEX_OSS_PORT / CODEX_OSS_BASE_URL 这一条受支持路径;文档明确不建议为此创建 model_providers 条目。
  • 首次运行时 TUI 会引导你选择认证方式,其中就包含"通过 Ollama 或 LM Studio 接入本地模型"(docs/quickstart.md);之后用 /model 随时改回或切换。
  • 平台方面,安装器支持 macOS、64 位 Linux(发布包使用 musl)以及 Windows PowerShell/WSL(docs/install.md);对 Git 的建议适用于仓库感知会话,与接入本地模型无直接依赖。

完成以上步骤后,判断标准是:interpreter --oss --local-provider ollama(或 lmstudio)能进入 TUI、footer 显示对应的本地 provider 与所选模型,且提示能正常返回本地模型的回复;若遇到 Model metadata for ... not found,按"验证与排查"一节处理即可。

更多上下文可参考 本地模型文档Provider 文档CLI 参考

登录后查看全文
热门项目推荐
相关项目推荐

项目优选

收起
kernelkernel
deepin linux kernel
C
33
18
ops-transformerops-transformer
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
1.14 K
2.75 K
pytorchpytorch
作为 Ascend for PyTorch 社区的核心组件,TorchNPU 是昇腾专为 PyTorch 打造的深度学习适配插件,使 PyTorch 框架能够直接调用昇腾 NPU,为开发者提供昇腾 AI 处理器的超强算力。
Python
857
1.35 K
docsdocs
暂无描述
Markdown
898
5.82 K
ops-nnops-nn
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
921
1.84 K
jiuwenswarmjiuwenswarm
JiuwenSwarm 是一款基于openJiuwen开发的智能AI Agent,它能够将大语言模型的强大能力,通过你日常使用的各类通讯应用,直接延伸至你的指尖。
Python
3.8 K
1.02 K
kernelkernel
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
531
596
cann-learning-hubcann-learning-hub
CANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。
Jupyter Notebook
1.02 K
519
ops-mathops-math
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.36 K
1.46 K
AscendNPU-IRAscendNPU-IR
AscendNPU-IR是基于MLIR(Multi-Level Intermediate Representation)构建的,面向昇腾亲和算子编译时使用的中间表示,提供昇腾完备表达能力,通过编译优化提升昇腾AI处理器计算效率,支持通过生态框架使能昇腾AI处理器与深度调优
C++
548
391