在 Olares 1.12.6 上自托管 Vane:用 Ollama 与 SearXNG 搭建带引用的私有 AI 搜索引擎
在 Olares 1.12.6 上自托管 Vane:用 Ollama 与 SearXNG 搭建带引用的私有 AI 搜索引擎
Vane(前身为 Perplexica)是一款开源的 AI 驱动问答引擎,它把网络搜索能力与本地或云端大语言模型(LLM)结合在一起,在保护查询隐私的前提下给出带有引用来源的对话式回答。本文将以 Olares 1.12.6 为运行环境,采用 Ollama 作为模型提供商、SearXNG 作为搜索后端 的完整方案,手把手带你完成 SearXNG 与 Vane 的安装、模型连接配置,以及首次问答验证,最终在 Olares 上获得一个完全自托管、数据不出本机的 Perplexity 替代品。
Vane 是什么:Perplexity 的开源自托管替代
Vane 是 Perplexity 类产品的开源替代方案,其核心能力是**"搜索 + 生成"**:先通过搜索引擎实时获取最新信息,再由大语言模型对检索结果进行分析、归纳并组织成带引用的回答。与直接使用公共 AI 搜索服务不同,Vane 从模型推理到网页检索都在你自己的 Olares 设备上完成,查询内容不会发送到第三方厂商。
在 Olares 生态中,Vane 被定位为普通用户可一键部署的复杂应用之一。仓库中的 docs/manual/help/olares.md 在介绍系统角色时明确写道:普通用户可以在 Market 中一键部署 ComfyUI 或 Vane(原 Perplexica)这类复杂应用;docs/one/faq.md 则从功能角度概括了它的工作方式——"Vane(前身为 Perplexica):Perplexity 的开源替代品。它使用 SearxNG 检索最新信息,并使用本地 LLM 进行分析"。
本指南对应的完整原文位于 docs/use-cases/perplexica-1.12.6.md,其中包含与截图配套的英文版操作说明。
工作原理:Vane、Ollama 与 SearXNG 三者如何协作
一套可用的私有 AI 搜索引擎由三个组件构成,各自承担不同职责:
| 组件 | 角色 | 职责 |
|---|---|---|
| Vane | 问答引擎 | 编排"检索 → 归纳 → 引用"的完整问答流程,提供聊天界面 |
| Ollama | 模型提供商 | 在本地运行聊天模型与嵌入模型,执行推理 |
| SearXNG | 搜索后端 | 聚合多个搜索引擎的结果,把干净、无偏见的内容喂给 AI 模型处理 |
其中 SearXNG 是隐私优先的元搜索引擎(meta-search engine),它同时向多个上游搜索引擎发起查询并把结果聚合在一起,且不追踪用户。对 Vane 而言,SearXNG 的价值在于提供"干净、无偏见的检索结果",AI 模型基于这些结果生成回答,而不是凭训练数据中的陈旧记忆作答——这也是它能够覆盖实时信息(如最新新闻、价格、版本发布)的原因。
前置条件:确认 Ollama 与聊天模型就绪
开始安装前,请确保满足以下两个条件:
- Olares 上已有正在运行的独立 Ollama 应用。本文的安装与配置章节针对的是已有 Ollama 安装的场景。
- Ollama 中已安装至少一个聊天模型。嵌入模型是可选项——因为 Vane 自带内置嵌入模型,即使 Ollama 中没有嵌入模型也可以正常完成检索增强(RAG)流程。
关于 1.12.6 的架构变化:新部署请改用 Engine Base
需要特别说明的是,Olares 1.12.6 起独立 Ollama 应用已从 Market 下架,本地模型部署方式迁移到了全新的 Engine Base 架构。仓库中的版本说明 docs/manual/release-notes.md 记录了这一变更:独立的 Ollama 用例指南被退役,新的模型部署统一使用 Ollama Engine Base(对应的英文原文为 llm-base-apps-1.12.6.md);docs/manual/olares/market/shared-apps.md 则解释了原因:旧的独立 Ollama 应用与 Olares 的 GPU 时间片调度不兼容,多个模型同时运行时会产生硬件抢占冲突,而 Engine Base 架构下的模型实例遵循 Olares 的调度规则,可以并行运行多个模型。
因此:
- 已有 Ollama 安装:直接沿用现有实例,阅读本文即可完成 Vane 的部署;
- 全新部署:请先按照 Ollama Engine Base 指南,通过克隆 Engine Base 应用创建一个新的模型实例,并确保至少一个聊天模型处于可用状态,再回到本文继续。
第一步:安装 SearXNG 搜索后端
- 打开 Olares 的 Market(应用市场),在搜索框中输入 "SearXNG"。
- 在搜索结果中点击 获取(Get),然后点击 安装(Install),等待安装完成。
安装完成后,SearXNG 会作为 Olares 的共享应用(shared application)在集群内提供统一的 HTTPS 访问地址。关于 1.12.6 共享应用新架构的说明(单一共享服务器、管理员统一管理、每位成员通过自己的用户名访问),可进一步参阅 共享应用架构文档。
第二步:从 Market 安装 Vane
- 打开 Market,在搜索框中输入 "Vane"。
- 点击 获取(Get),然后点击 安装(Install),等待安装完成。
第三步:配置 Vane 模型连接
Vane 安装完成后,首次启动时会自动打开设置向导(setup wizard)。此时向导会自动检测到 Olares 上已运行的 Ollama 及其已安装的模型,无需手动填写任何连接参数。
配置流程如下:
- 启动 Vane,在首次启动的设置向导中确认 Ollama 与模型已被自动检测到(连接管理界面)。
- 点击 下一步(Next)。
- 分别选择一个聊天模型(chat model)和一个嵌入模型(embedding model),然后点击 完成(Finish)。
:::tip 嵌入模型选项 如果在 Ollama 中没有安装嵌入模型,可以改用 Vane 内置的嵌入模型。聊天模型负责生成回答,嵌入模型负责把文档/检索内容向量化以支持相似度匹配,二者角色不同,Vane 内置的嵌入模型足以支撑默认的检索增强流程。 :::
完成向导后即进入主聊天页面。如需在之后更换模型或调整连接,点击页面左下角的设置(settings)图标,打开 Settings(设置) 页面即可随时修改。
提示:若你使用的是 Olares 1.12.7 及以后的版本,模型接入方式已升级为通过 Olares Router 统一网关(在设置向导或 Settings 的模型区域添加 OpenAI provider,Base URL 填 Router 地址并包含
/v1,API Key 填olares,模型 ID 填路由名default-chat)。对应说明见 当前版本指南 与 Olares Router 文档。
第四步:开始提问
配置完成后,输入一个问题即可验证整套私有搜索环境是否正常工作。Vane 会先经 SearXNG 检索最新网页内容,再交给本地 LLM 归纳,最终给出带引用来源的对话式回答。
建议从与时事、价格或产品发布相关的问题开始测试——这类问题最能体现"实时检索 + 本地推理"的价值,因为答案不会依赖模型训练时的知识截断时间。
日常管理与模型扩展
更换模型与连接
进入 Vane 左下角的 Settings 页面,即可随时切换聊天模型、嵌入模型或调整与 Ollama 的连接。所有配置保存在 Vane 应用内,无需重新安装。
用 Engine Base 部署新模型
当需要为 Vane 增加新的聊天模型时,在 1.12.6 及以后版本中应使用 Ollama Engine Base 流程:
- 打开 Market,搜索 "Engine Base",选择 Ollama Engine Base;
- 点击 Create 克隆出一个独立模型实例,设置实例名称与加速器;
- 在环境变量配置中,按
ollama://<model>:<size-tag>格式填写MODEL_SOURCE(例如ollama://qwen3.5:2b),MODEL_NAME取ollama://之后的部分,并设置上下文长度等ENGINE_ARGS; - 实例运行后,回到 Vane 的 Settings 中重新选择该模型即可。
完整的参数表(MODEL_SOURCE、MODEL_NAME、MODEL_MODE、ENGINE_ARGS、OLLAMA_REQUIRED_GPU_MEMORY 等)与推荐调优参数(如 OLLAMA_CONTEXT_LENGTH、OLLAMA_KEEP_ALIVE、OLLAMA_KV_CACHE_TYPE),详见 Engine Base 模型部署指南。
相关资料
- Ollama Engine Base 部署指南(Olares 1.12.6):在 Olares 上部署新的 Ollama 模型实例,为 Vane 准备更多可用模型;
- 共享应用架构说明:理解 SearXNG 作为共享应用在 Olares 集群中的统一管理与访问方式;
- Olares 模型连接最佳实践:了解 1.12.7 之后 AI 客户端通过 Router 连接模型时的 Base URL、API Key 与
default-chat路由名规则; - Olares Router 使用指南:管理 Vane 所用模型、查看连接示例与默认模型设置;
- 上游项目 Vane(原 Perplexica)的 README 与架构说明,可在其官方仓库查阅(
Vane on GitHub,见原文档 docs/use-cases/perplexica-1.12.6.md 的 Learn more 一节)。



