Kronk Browser UI使用指南:可视化管理模型、密钥与对话Playground

原创2026-10-25 09:28:221,341 阅读

Kronk Browser UI使用指南:可视化管理模型、密钥与对话Playground

Kronk 是一款用 Go 实现、基于 llama.cpp / whisper.cpp / stable-diffusion.cpp 的本地硬件加速推理 SDK 与生产级模型服务器,而 Kronk Browser UI(简称 BUI)就是它自带的可视化控制台——在浏览器里即可完成模型下载管理、API 密钥签发,以及用对话 Playground 直接测试模型效果,全程无需 Python 和独立的服务栈。

Kronk 项目横幅:Malina、Kronk、Bucky 三大子模块与本地推理技术栈

一分钟打开 Kronk Browser UI

BUI 已经打包在 kronk 可执行文件里,与 Web API 共用同一个端口,启动即可用:

brew install ardanlabs/kronk/kronk   # 或使用 go install github.com/ardanlabs/kronk/cmd/kronk@latest
kronk server start

然后打开 **http://localhost:11435/admin/**(默认绑定 127.0.0.1:11435,访问根路径会自动跳转到管理界面)。BUI 默认开启;无头部署时可用 --web-admin-enabled=false 关闭。

📚 详细能力清单可参阅 Browser UI 官方章节,服务器完整启动参数见 Model Server 章节。

界面总览:侧边栏功能分组

BUI 的侧边栏按子系统分组,一眼就能找到对应操作(分组定义见 Layout.tsx):

分组 页面 用途
🗨️ Apps Chat、Decision、VRAM Calculator、Translator、Image Generator 对话、决策评测、显存预估、语音转写、文生图
⚙️ System Running、Slots、IMC Sessions、Info 查看已加载模型、调度槽位与服务器诊断
🦙 Kronk Models(List / HF Pull / KMS Pull)、Catalog、Libs GGUF 模型与 llama.cpp 库包管理
🎙️ Bucky Models、Libs 语音转写(whisper.cpp)模型与库管理
🖼️ Malina Models、Libs 图像生成(stable-diffusion.cpp)模型管理
🔐 Security Key、Token、Session 签名密钥与 JWT 令牌管理
🧪 Testing Accuracy、Efficiency、Basic、Sampling、Configuration 模型精度与吞吐评测、参数扫描
📖 Docs Manual、SDK、CLI、Web API 内置离线文档

可视化管理模型:从下载到移除

Kronk → Models 是模型管理的核心入口,提供三块能力:

  • List:列出本机已安装的 GGUF 模型,展示元数据、生效配置、采样默认值、聊天模板和预估显存;
  • HF Pull:从 HuggingFace 拉取模型。写 owner/repo/file.gguf 会锁定精确文件,只写仓库名则展开该仓库的 GGUF 文件列表供选择;
  • KMS Pull:从另一台 Kronk 模型服务器(Kronk Model Server)拷贝模型。

此外还有 Catalog(浏览个人目录 ~/.kronk/catalog/catalog.yaml,可刷新、拉取、删除条目)和 Libs(下载/移除 llama.cpp 库包,存储于 ~/.kronk/libraries/)。模型的持久化配置读取自 ~/.kronk/models/model_config.yaml,界面中模型详情为只读,修改持久配置请编辑该文件后重新加载模型。

⚠️ 小贴士:在界面下载新的库包不会热切换运行中进程的库,需要设置 KRONK_LIB_PATH 指向所选 bundle 后重启服务器。

对话 Playground:像用 ChatGPT 一样测试本地模型

Apps → Chat 提供了完整的对话 Playground:支持多轮对话、模型切换、系统提示词、对话历史与采样参数控制,所有操作都作用于独立的测试会话,不会污染持久化配置。视觉模型还可以直接“看图说话”——项目示例中就使用这类野外相机图片让模型识别画面内容(见 vision 示例):

本地视觉模型识别示例:Kronk 演示中用于图像问答的野外场景照片

除了自由对话,Playground 还包括:

  • Decision:运行一个客服场景的决策示例,调用 /v1/decide 端点,查看类型化答案、概率分布与 token 用量。判断前先选择模型并等待下载完成。示例中让模型在“长颈鹿 / 鹿”之间做判断: Kronk Decision 决策模型演示图片:长颈鹿识别示例 完整用法可参考 decision-image 示例。
  • VRAM Calculator:在下载模型前,基于 HuggingFace 模型逐层读取 GGUF 元数据,预估权重、KV 状态与显存占用,避免“下了模型发现装不下”。
  • Image Generator:用已安装的 Malina 模型做文生图或图生图,可调负向提示词、尺寸、步数、CFG 等参数。
  • Testing 分组:Accuracy(复现源码函数准确率)、Efficiency(吞吐对比)、Basic(聊天/工具调用冒烟测试),以及 Sampling / Configuration 两种自动化参数扫描。

Security:可视化创建密钥与令牌

Security 分组是 Kronk 模型服务器的访问控制中心,与 security 命令行工具 管理同一套凭据:

  • Key:创建、列出、吊销用于签发 JWT 的私钥(List / Create / Delete 三个页面);
  • Token:用私钥签发短时效 JWT 令牌,可设置有效期(duration)、允许访问的端点(endpoints)与速率限制,例如只放行 chat-completions,responses;
  • Session:显示浏览器管理认证是否开启、当前浏览器是否已登录管理会话。

这套工具在 open 模式下也可用,方便你先备好密钥和令牌,再开启认证。相关端点策略与 open / management / authenticated / full-protected 四种授权模式详见 安全与认证章节。

为管理界面开启登录保护

默认情况下 BUI 与管理 API 不需要登录,适合本地单机使用。若要保护浏览器管理,可配置密码的 SHA-256 摘要并启用 management 模式:

export KRONK_AUTHORIZATION_MODE=management
export KRONK_WEB_ADMIN_PASSWORD_SHA_256="$(printf '%s' 'your-password' | shasum -a 256 | awk '{print $1}')"
kronk server start

登录后服务器会签发一个 1 小时的 admin token,存放在 HttpOnly、SameSite cookie 中——浏览器脚本读不到它,退出登录在侧边栏一键完成。把服务器暴露到受信任网络之外前,务必先读完 Chapter 12 中关于 TLS 与反向代理的说明。

上手建议清单

  • 🚀 第一次使用:先跑 kronk server start,在 Kronk → HF Pull 拉一个小模型,再到 Chat 里开聊;
  • 💾 显存吃不准?先用 VRAM Calculator 估算,再决定下载哪个量化版本;
  • 🔑 多客户端接入前,先在 Security 里建好 key 和限定端点的 token;
  • 🧹 用完模型记得点 Unload Model——关闭浏览器标签页不会自动卸载,模型会一直留在池子中直到被驱逐或服务器重启。

Kronk Browser UI 把“下载模型 → 测试效果 → 签发凭据 → 观察运行”的完整链路压缩进了一个浏览器标签页,是本地部署 Kronk 模型服务器最顺手的第一站。

登录后查看全文
kronk