如何用Project Golem打造本地私有AI:Ollama全离线部署完整教程

原创2026-11-07 15:10:431,897 阅读

如何用Project Golem打造本地私有AI:Ollama全离线部署完整教程

Project Golem 是一套可对话、可行动、可长期记忆的 本地私有 AI 智能体系统。本教程带你用 Ollama 全离线部署:大模型推理、向量记忆、技能调用全部运行在自己的电脑或私有网络内,数据永不外泄。全程无需任何公网大模型 API,只需 Ollama + Node.js,几分鐘即可搭好。

🎯 核心关键词:Project Golem · Ollama 全离线部署 · 本地私有 AI · 离线智能体


为什么选择 Ollama 打造本地私有 AI?

多数 AI 工具把对话丢给云端,而 Project Golem 的设计目标是在真实环境里长期可用:有状态(长期记忆)、有行动(工具与技能)、有边界(安全管控)、有界面(Web Dashboard 治理)。

选择 Ollama 后端的好处:

优势 说明
📴 完全离线 模型与记忆数据只留在本机或私有网络
🔐 隐私安全 敏感信息不离开你的设备
🧠 记忆不丢失 推理与向量嵌入(Embedding)都由本地 Ollama 承担
💡 灵活切换 可随时在 gemini / ollama / lmstudio 之间切换

Project Golem 支持三种"大脑"后端,核心配置逻辑见 src/config/index.js,Ollama 调用实现在 src/services/OllamaClient.js。

Project Golem 本地私有AI 系统设置总览界面,可一键配置 Ollama 离线大模型引擎


部署前环境准备:最快安装清单

1. 安装 Ollama

按照 Ollama 官方指引安装(macOS / Windows / Linux 均有原生安装程序)。macOS 用户可直接用 Homebrew:

brew install ollama

安装后确认服务已运行:

ollama serve

2. 拉取模型

大脑模型(推理)与嵌入模型(记忆)各拉一个:

ollama pull llama3.1:8b      # 大脑推理模型
ollama pull nomic-embed-text # 向量嵌入模型

3. 安装 Node.js 并克隆项目

需要 Node.js >=20 <23 与 npm。克隆项目(仓库地址见下方命令):

git clone https://gitcode.com/gh_mirrors/pr/project-golem
cd project-golem

一键安装 Project Golem

进入项目目录后,执行官方安装脚本,系统会自动引导你完成环境检查与依赖安装:

./setup.sh

按 Enter 即可进入安装/启动菜单,脚本会自动检测 Node.js、npm、端口占用与磁盘空间。安装入口逻辑见 setup.sh。

完成后运行健康检查,确认各模块状态正常:

npm run doctor

配置 Ollama 离线后端(.env 核心参数)

复制环境变量模板并修改为 Ollama 模式:

cp .env.example .env

完整模板见 .env.example,重点修改以下参数:

参数 示例值 作用
GOLEM_BACKEND ollama 启用 Ollama 大脑后端
GOLEM_OLLAMA_BASE_URL http://127.0.0.1:11434 Ollama 服务地址
GOLEM_OLLAMA_BRAIN_MODEL llama3.1:8b 推理大脑模型
GOLEM_EMBEDDING_PROVIDER ollama 记忆嵌入也走本地 Ollama
GOLEM_OLLAMA_EMBEDDING_MODEL nomic-embed-text 向量嵌入模型
GOLEM_OLLAMA_TIMEOUT_MS 60000 HTTP 超时(毫秒)
GOLEM_MEMORY_MODE lancedb-pro 记忆模式(默认)

对应的 .env 片段:

GOLEM_BACKEND=ollama
GOLEM_OLLAMA_BASE_URL=http://127.0.0.1:11434
GOLEM_OLLAMA_BRAIN_MODEL=llama3.1:8b
GOLEM_EMBEDDING_PROVIDER=ollama
GOLEM_OLLAMA_EMBEDDING_MODEL=nomic-embed-text
GOLEM_MEMORY_MODE=lancedb-pro

💡 提示:GOLEM_EMBEDDING_PROVIDER=ollama 是让记忆系统也完全离线的关键——否则向量嵌入仍可能调用远程服务。嵌入提供者逻辑见 packages/memory/embeddings/OllamaProvider.js。


在 Dashboard 一键配置并测试连线

不想手改 .env?也可以直接在网页里完成。启动 Dashboard 后进入 系统设置(Settings)→ 核心引擎:

npm run dashboard

打开默认地址 http://localhost:3000/dashboard,在设置页:

  1. 把 Primary Engine 下拉框切换为 ollama
  2. 填写 Ollama Base URL、Brain Model、Timeout
  3. 切换到 嵌入(Embedding) 区域,将 Provider 设为 ollama
  4. 点击 测试连线 按钮,前端会实时反馈成功或错误详情

该设置页面前端实现见 EngineTab.tsx,修改后点击 Save Settings 生效。

Project Golem Ollama 离线向量记忆核心(Neural Core)长期记忆管理界面


全离线记忆系统:让 AI 长期记得你

配置完成后,Project Golem 的记忆核心(Neural Core)会在本地维护向量记忆:

  • 记忆模式:支持 lancedb-pro(向量 + 持久存储混合检索)与 native 两种模式
  • 向量引擎:由 Ollama 的嵌入模型生成,数据落在本地目录
  • 长期协作:AI 会持续累积项目背景,而不是每次都重新解释

⚠️ 注意:切换嵌入 Provider(local / ollama)时,向量维度会变化,系统会自动切换数据目录(dim_<N>)。记忆架构细节见 docs/记忆系统架构说明.md。

Project Golem 本地私有AI 技能说明书(Skills)管理与加载界面


进阶:挂载技能与验证离线运行

本地大脑配好后,你可以在 技能说明书(Skills) 页加载内置/自定义技能,让 AI 具备操作能力;技能与 MCP 工具均可接入私有工作流。

验证是否完全离线的方法:

  1. 关闭外网(或用 GOLEM_BACKEND=ollama 确认无远程调用)
  2. 发起一段对话 + /new 开新对话并载入记忆
  3. 观察 Dashboard 控制台与日志,确认全部请求均发往 127.0.0.1:11434

更多使用指引见 docs/Web-Dashboard-使用说明.md 与项目总览 README.md。


常见问题(FAQ)

Q1:连线测试失败,提示连不上? 确认 Ollama 已在 http://127.0.0.1:11434 运行,ollama list 能看到已拉取的模型,且 Base URL 与 Brain Model 拼写正确。

Q2:回答很慢 / 超时? 本地推理受硬件限制,可把 GOLEM_OLLAMA_TIMEOUT_MS 调大(如 120000),或选用更小的模型(如 llama3.2:3b)提升速度。

Q3:想换回云端后端? 只需将 GOLEM_BACKEND 改回 gemini 或 lmstudio,其余 Ollama 配置保留即可随时切回,互不影响。


小结

跟着本教程,你已用 Project Golem + Ollama 完成一套真正的本地私有 AI 全离线部署:推理、记忆、技能全部留在本机,隐私安全、断网可用。下一步可以探索多智能体协作、文字 RPG 与协作日历,把 Golem 从工具变成可长期陪伴的 AI 工作台。

登录后查看全文
project-golem