如何用Project Golem打造本地私有AI:Ollama全离线部署完整教程
如何用Project Golem打造本地私有AI:Ollama全离线部署完整教程
Project Golem 是一套可对话、可行动、可长期记忆的 本地私有 AI 智能体系统。本教程带你用 Ollama 全离线部署:大模型推理、向量记忆、技能调用全部运行在自己的电脑或私有网络内,数据永不外泄。全程无需任何公网大模型 API,只需 Ollama + Node.js,几分鐘即可搭好。
🎯 核心关键词:Project Golem · Ollama 全离线部署 · 本地私有 AI · 离线智能体
为什么选择 Ollama 打造本地私有 AI?
多数 AI 工具把对话丢给云端,而 Project Golem 的设计目标是在真实环境里长期可用:有状态(长期记忆)、有行动(工具与技能)、有边界(安全管控)、有界面(Web Dashboard 治理)。
选择 Ollama 后端的好处:
| 优势 | 说明 |
|---|---|
| 📴 完全离线 | 模型与记忆数据只留在本机或私有网络 |
| 🔐 隐私安全 | 敏感信息不离开你的设备 |
| 🧠 记忆不丢失 | 推理与向量嵌入(Embedding)都由本地 Ollama 承担 |
| 💡 灵活切换 | 可随时在 gemini / ollama / lmstudio 之间切换 |
Project Golem 支持三种"大脑"后端,核心配置逻辑见 src/config/index.js,Ollama 调用实现在 src/services/OllamaClient.js。
部署前环境准备:最快安装清单
1. 安装 Ollama
按照 Ollama 官方指引安装(macOS / Windows / Linux 均有原生安装程序)。macOS 用户可直接用 Homebrew:
brew install ollama
安装后确认服务已运行:
ollama serve
2. 拉取模型
大脑模型(推理)与嵌入模型(记忆)各拉一个:
ollama pull llama3.1:8b # 大脑推理模型
ollama pull nomic-embed-text # 向量嵌入模型
3. 安装 Node.js 并克隆项目
需要 Node.js >=20 <23 与 npm。克隆项目(仓库地址见下方命令):
git clone https://gitcode.com/gh_mirrors/pr/project-golem
cd project-golem
一键安装 Project Golem
进入项目目录后,执行官方安装脚本,系统会自动引导你完成环境检查与依赖安装:
./setup.sh
按 Enter 即可进入安装/启动菜单,脚本会自动检测 Node.js、npm、端口占用与磁盘空间。安装入口逻辑见 setup.sh。
完成后运行健康检查,确认各模块状态正常:
npm run doctor
配置 Ollama 离线后端(.env 核心参数)
复制环境变量模板并修改为 Ollama 模式:
cp .env.example .env
完整模板见 .env.example,重点修改以下参数:
| 参数 | 示例值 | 作用 |
|---|---|---|
GOLEM_BACKEND |
ollama |
启用 Ollama 大脑后端 |
GOLEM_OLLAMA_BASE_URL |
http://127.0.0.1:11434 |
Ollama 服务地址 |
GOLEM_OLLAMA_BRAIN_MODEL |
llama3.1:8b |
推理大脑模型 |
GOLEM_EMBEDDING_PROVIDER |
ollama |
记忆嵌入也走本地 Ollama |
GOLEM_OLLAMA_EMBEDDING_MODEL |
nomic-embed-text |
向量嵌入模型 |
GOLEM_OLLAMA_TIMEOUT_MS |
60000 |
HTTP 超时(毫秒) |
GOLEM_MEMORY_MODE |
lancedb-pro |
记忆模式(默认) |
对应的 .env 片段:
GOLEM_BACKEND=ollama
GOLEM_OLLAMA_BASE_URL=http://127.0.0.1:11434
GOLEM_OLLAMA_BRAIN_MODEL=llama3.1:8b
GOLEM_EMBEDDING_PROVIDER=ollama
GOLEM_OLLAMA_EMBEDDING_MODEL=nomic-embed-text
GOLEM_MEMORY_MODE=lancedb-pro
💡 提示:
GOLEM_EMBEDDING_PROVIDER=ollama是让记忆系统也完全离线的关键——否则向量嵌入仍可能调用远程服务。嵌入提供者逻辑见 packages/memory/embeddings/OllamaProvider.js。
在 Dashboard 一键配置并测试连线
不想手改 .env?也可以直接在网页里完成。启动 Dashboard 后进入 系统设置(Settings)→ 核心引擎:
npm run dashboard
打开默认地址 http://localhost:3000/dashboard,在设置页:
- 把 Primary Engine 下拉框切换为
ollama - 填写 Ollama Base URL、Brain Model、Timeout
- 切换到 嵌入(Embedding) 区域,将 Provider 设为
ollama - 点击 测试连线 按钮,前端会实时反馈成功或错误详情
该设置页面前端实现见 EngineTab.tsx,修改后点击 Save Settings 生效。
全离线记忆系统:让 AI 长期记得你
配置完成后,Project Golem 的记忆核心(Neural Core)会在本地维护向量记忆:
- 记忆模式:支持
lancedb-pro(向量 + 持久存储混合检索)与native两种模式 - 向量引擎:由 Ollama 的嵌入模型生成,数据落在本地目录
- 长期协作:AI 会持续累积项目背景,而不是每次都重新解释
⚠️ 注意:切换嵌入 Provider(
local/ollama)时,向量维度会变化,系统会自动切换数据目录(dim_<N>)。记忆架构细节见 docs/记忆系统架构说明.md。
进阶:挂载技能与验证离线运行
本地大脑配好后,你可以在 技能说明书(Skills) 页加载内置/自定义技能,让 AI 具备操作能力;技能与 MCP 工具均可接入私有工作流。
验证是否完全离线的方法:
- 关闭外网(或用
GOLEM_BACKEND=ollama确认无远程调用) - 发起一段对话 +
/new开新对话并载入记忆 - 观察 Dashboard 控制台与日志,确认全部请求均发往
127.0.0.1:11434
更多使用指引见 docs/Web-Dashboard-使用说明.md 与项目总览 README.md。
常见问题(FAQ)
Q1:连线测试失败,提示连不上?
确认 Ollama 已在 http://127.0.0.1:11434 运行,ollama list 能看到已拉取的模型,且 Base URL 与 Brain Model 拼写正确。
Q2:回答很慢 / 超时?
本地推理受硬件限制,可把 GOLEM_OLLAMA_TIMEOUT_MS 调大(如 120000),或选用更小的模型(如 llama3.2:3b)提升速度。
Q3:想换回云端后端?
只需将 GOLEM_BACKEND 改回 gemini 或 lmstudio,其余 Ollama 配置保留即可随时切回,互不影响。
小结
跟着本教程,你已用 Project Golem + Ollama 完成一套真正的本地私有 AI 全离线部署:推理、记忆、技能全部留在本机,隐私安全、断网可用。下一步可以探索多智能体协作、文字 RPG 与协作日历,把 Golem 从工具变成可长期陪伴的 AI 工作台。


