在 Olares 1.12.6 上自托管 Vane:用 Ollama 与 SearXNG 搭建带引用的私有 AI 搜索引擎

原创2026-10-14 20:28:211,946 阅读
文章标签:云原生后端运维

在 Olares 1.12.6 上自托管 Vane:用 Ollama 与 SearXNG 搭建带引用的私有 AI 搜索引擎

Vane(前身为 Perplexica)是一款开源的 AI 驱动问答引擎,它把网络搜索能力与本地或云端大语言模型(LLM)结合在一起,在保护查询隐私的前提下给出带有引用来源的对话式回答。本文将以 Olares 1.12.6 为运行环境,采用 Ollama 作为模型提供商、SearXNG 作为搜索后端 的完整方案,手把手带你完成 SearXNG 与 Vane 的安装、模型连接配置,以及首次问答验证,最终在 Olares 上获得一个完全自托管、数据不出本机的 Perplexity 替代品。

Vane 是什么:Perplexity 的开源自托管替代

Vane 是 Perplexity 类产品的开源替代方案,其核心能力是**"搜索 + 生成"**:先通过搜索引擎实时获取最新信息,再由大语言模型对检索结果进行分析、归纳并组织成带引用的回答。与直接使用公共 AI 搜索服务不同,Vane 从模型推理到网页检索都在你自己的 Olares 设备上完成,查询内容不会发送到第三方厂商。

在 Olares 生态中,Vane 被定位为普通用户可一键部署的复杂应用之一。仓库中的 docs/manual/help/olares.md 在介绍系统角色时明确写道:普通用户可以在 Market 中一键部署 ComfyUI 或 Vane(原 Perplexica)这类复杂应用;docs/one/faq.md 则从功能角度概括了它的工作方式——"Vane(前身为 Perplexica):Perplexity 的开源替代品。它使用 SearxNG 检索最新信息,并使用本地 LLM 进行分析"。

本指南对应的完整原文位于 docs/use-cases/perplexica-1.12.6.md,其中包含与截图配套的英文版操作说明。

工作原理:Vane、Ollama 与 SearXNG 三者如何协作

一套可用的私有 AI 搜索引擎由三个组件构成,各自承担不同职责:

组件 角色 职责
Vane 问答引擎 编排"检索 → 归纳 → 引用"的完整问答流程,提供聊天界面
Ollama 模型提供商 在本地运行聊天模型与嵌入模型,执行推理
SearXNG 搜索后端 聚合多个搜索引擎的结果,把干净、无偏见的内容喂给 AI 模型处理

其中 SearXNG 是隐私优先的元搜索引擎(meta-search engine),它同时向多个上游搜索引擎发起查询并把结果聚合在一起,且不追踪用户。对 Vane 而言,SearXNG 的价值在于提供"干净、无偏见的检索结果",AI 模型基于这些结果生成回答,而不是凭训练数据中的陈旧记忆作答——这也是它能够覆盖实时信息(如最新新闻、价格、版本发布)的原因。

前置条件:确认 Ollama 与聊天模型就绪

开始安装前,请确保满足以下两个条件:

  1. Olares 上已有正在运行的独立 Ollama 应用。本文的安装与配置章节针对的是已有 Ollama 安装的场景。
  2. Ollama 中已安装至少一个聊天模型。嵌入模型是可选项——因为 Vane 自带内置嵌入模型,即使 Ollama 中没有嵌入模型也可以正常完成检索增强(RAG)流程。

关于 1.12.6 的架构变化:新部署请改用 Engine Base

需要特别说明的是,Olares 1.12.6 起独立 Ollama 应用已从 Market 下架,本地模型部署方式迁移到了全新的 Engine Base 架构。仓库中的版本说明 docs/manual/release-notes.md 记录了这一变更:独立的 Ollama 用例指南被退役,新的模型部署统一使用 Ollama Engine Base(对应的英文原文为 llm-base-apps-1.12.6.md);docs/manual/olares/market/shared-apps.md 则解释了原因:旧的独立 Ollama 应用与 Olares 的 GPU 时间片调度不兼容,多个模型同时运行时会产生硬件抢占冲突,而 Engine Base 架构下的模型实例遵循 Olares 的调度规则,可以并行运行多个模型。

因此:

  • 已有 Ollama 安装:直接沿用现有实例,阅读本文即可完成 Vane 的部署;
  • 全新部署:请先按照 Ollama Engine Base 指南,通过克隆 Engine Base 应用创建一个新的模型实例,并确保至少一个聊天模型处于可用状态,再回到本文继续。

第一步:安装 SearXNG 搜索后端

  1. 打开 Olares 的 Market(应用市场),在搜索框中输入 "SearXNG"。
  2. 在搜索结果中点击 获取(Get),然后点击 安装(Install),等待安装完成。

在 Market 中搜索并安装 SearXNG

安装完成后,SearXNG 会作为 Olares 的共享应用(shared application)在集群内提供统一的 HTTPS 访问地址。关于 1.12.6 共享应用新架构的说明(单一共享服务器、管理员统一管理、每位成员通过自己的用户名访问),可进一步参阅 共享应用架构文档。

第二步:从 Market 安装 Vane

  1. 打开 Market,在搜索框中输入 "Vane"。
  2. 点击 获取(Get),然后点击 安装(Install),等待安装完成。

在 Market 中搜索并安装 Vane

第三步:配置 Vane 模型连接

Vane 安装完成后,首次启动时会自动打开设置向导(setup wizard)。此时向导会自动检测到 Olares 上已运行的 Ollama 及其已安装的模型,无需手动填写任何连接参数。

配置流程如下:

  1. 启动 Vane,在首次启动的设置向导中确认 Ollama 与模型已被自动检测到(连接管理界面)。
  2. 点击 下一步(Next)。
  3. 分别选择一个聊天模型(chat model)和一个嵌入模型(embedding model),然后点击 完成(Finish)。

在设置向导中选择聊天模型与嵌入模型

:::tip 嵌入模型选项 如果在 Ollama 中没有安装嵌入模型,可以改用 Vane 内置的嵌入模型。聊天模型负责生成回答,嵌入模型负责把文档/检索内容向量化以支持相似度匹配,二者角色不同,Vane 内置的嵌入模型足以支撑默认的检索增强流程。 :::

完成向导后即进入主聊天页面。如需在之后更换模型或调整连接,点击页面左下角的设置(settings)图标,打开 Settings(设置) 页面即可随时修改。

提示:若你使用的是 Olares 1.12.7 及以后的版本,模型接入方式已升级为通过 Olares Router 统一网关(在设置向导或 Settings 的模型区域添加 OpenAI provider,Base URL 填 Router 地址并包含 /v1,API Key 填 olares,模型 ID 填路由名 default-chat)。对应说明见 当前版本指南 与 Olares Router 文档。

第四步:开始提问

配置完成后,输入一个问题即可验证整套私有搜索环境是否正常工作。Vane 会先经 SearXNG 检索最新网页内容,再交给本地 LLM 归纳,最终给出带引用来源的对话式回答。

Vane 问答示例:带引用的对话式回答

建议从与时事、价格或产品发布相关的问题开始测试——这类问题最能体现"实时检索 + 本地推理"的价值,因为答案不会依赖模型训练时的知识截断时间。

日常管理与模型扩展

更换模型与连接

进入 Vane 左下角的 Settings 页面,即可随时切换聊天模型、嵌入模型或调整与 Ollama 的连接。所有配置保存在 Vane 应用内,无需重新安装。

用 Engine Base 部署新模型

当需要为 Vane 增加新的聊天模型时,在 1.12.6 及以后版本中应使用 Ollama Engine Base 流程:

  1. 打开 Market,搜索 "Engine Base",选择 Ollama Engine Base;
  2. 点击 Create 克隆出一个独立模型实例,设置实例名称与加速器;
  3. 在环境变量配置中,按 ollama://<model>:<size-tag> 格式填写 MODEL_SOURCE(例如 ollama://qwen3.5:2b),MODEL_NAME 取 ollama:// 之后的部分,并设置上下文长度等 ENGINE_ARGS;
  4. 实例运行后,回到 Vane 的 Settings 中重新选择该模型即可。

完整的参数表(MODEL_SOURCE、MODEL_NAME、MODEL_MODE、ENGINE_ARGS、OLLAMA_REQUIRED_GPU_MEMORY 等)与推荐调优参数(如 OLLAMA_CONTEXT_LENGTH、OLLAMA_KEEP_ALIVE、OLLAMA_KV_CACHE_TYPE),详见 Engine Base 模型部署指南。

相关资料

登录后查看全文
Terminus