Kronk Browser UI使用指南:可视化管理模型、密钥与对话Playground
Kronk Browser UI使用指南:可视化管理模型、密钥与对话Playground
Kronk 是一款用 Go 实现、基于 llama.cpp / whisper.cpp / stable-diffusion.cpp 的本地硬件加速推理 SDK 与生产级模型服务器,而 Kronk Browser UI(简称 BUI)就是它自带的可视化控制台——在浏览器里即可完成模型下载管理、API 密钥签发,以及用对话 Playground 直接测试模型效果,全程无需 Python 和独立的服务栈。
一分钟打开 Kronk Browser UI
BUI 已经打包在 kronk 可执行文件里,与 Web API 共用同一个端口,启动即可用:
brew install ardanlabs/kronk/kronk # 或使用 go install github.com/ardanlabs/kronk/cmd/kronk@latest
kronk server start
然后打开 **http://localhost:11435/admin/**(默认绑定 127.0.0.1:11435,访问根路径会自动跳转到管理界面)。BUI 默认开启;无头部署时可用 --web-admin-enabled=false 关闭。
📚 详细能力清单可参阅 Browser UI 官方章节,服务器完整启动参数见 Model Server 章节。
界面总览:侧边栏功能分组
BUI 的侧边栏按子系统分组,一眼就能找到对应操作(分组定义见 Layout.tsx):
| 分组 | 页面 | 用途 |
|---|---|---|
| 🗨️ Apps | Chat、Decision、VRAM Calculator、Translator、Image Generator | 对话、决策评测、显存预估、语音转写、文生图 |
| ⚙️ System | Running、Slots、IMC Sessions、Info | 查看已加载模型、调度槽位与服务器诊断 |
| 🦙 Kronk | Models(List / HF Pull / KMS Pull)、Catalog、Libs | GGUF 模型与 llama.cpp 库包管理 |
| 🎙️ Bucky | Models、Libs | 语音转写(whisper.cpp)模型与库管理 |
| 🖼️ Malina | Models、Libs | 图像生成(stable-diffusion.cpp)模型管理 |
| 🔐 Security | Key、Token、Session | 签名密钥与 JWT 令牌管理 |
| 🧪 Testing | Accuracy、Efficiency、Basic、Sampling、Configuration | 模型精度与吞吐评测、参数扫描 |
| 📖 Docs | Manual、SDK、CLI、Web API | 内置离线文档 |
可视化管理模型:从下载到移除
Kronk → Models 是模型管理的核心入口,提供三块能力:
- List:列出本机已安装的 GGUF 模型,展示元数据、生效配置、采样默认值、聊天模板和预估显存;
- HF Pull:从 HuggingFace 拉取模型。写
owner/repo/file.gguf会锁定精确文件,只写仓库名则展开该仓库的 GGUF 文件列表供选择; - KMS Pull:从另一台 Kronk 模型服务器(Kronk Model Server)拷贝模型。
此外还有 Catalog(浏览个人目录 ~/.kronk/catalog/catalog.yaml,可刷新、拉取、删除条目)和 Libs(下载/移除 llama.cpp 库包,存储于 ~/.kronk/libraries/)。模型的持久化配置读取自 ~/.kronk/models/model_config.yaml,界面中模型详情为只读,修改持久配置请编辑该文件后重新加载模型。
⚠️ 小贴士:在界面下载新的库包不会热切换运行中进程的库,需要设置 KRONK_LIB_PATH 指向所选 bundle 后重启服务器。
对话 Playground:像用 ChatGPT 一样测试本地模型
Apps → Chat 提供了完整的对话 Playground:支持多轮对话、模型切换、系统提示词、对话历史与采样参数控制,所有操作都作用于独立的测试会话,不会污染持久化配置。视觉模型还可以直接“看图说话”——项目示例中就使用这类野外相机图片让模型识别画面内容(见 vision 示例):
除了自由对话,Playground 还包括:
- Decision:运行一个客服场景的决策示例,调用
/v1/decide端点,查看类型化答案、概率分布与 token 用量。判断前先选择模型并等待下载完成。示例中让模型在“长颈鹿 / 鹿”之间做判断:
完整用法可参考 decision-image 示例。 - VRAM Calculator:在下载模型前,基于 HuggingFace 模型逐层读取 GGUF 元数据,预估权重、KV 状态与显存占用,避免“下了模型发现装不下”。
- Image Generator:用已安装的 Malina 模型做文生图或图生图,可调负向提示词、尺寸、步数、CFG 等参数。
- Testing 分组:Accuracy(复现源码函数准确率)、Efficiency(吞吐对比)、Basic(聊天/工具调用冒烟测试),以及 Sampling / Configuration 两种自动化参数扫描。
Security:可视化创建密钥与令牌
Security 分组是 Kronk 模型服务器的访问控制中心,与 security 命令行工具 管理同一套凭据:
- Key:创建、列出、吊销用于签发 JWT 的私钥(List / Create / Delete 三个页面);
- Token:用私钥签发短时效 JWT 令牌,可设置有效期(duration)、允许访问的端点(endpoints)与速率限制,例如只放行
chat-completions,responses; - Session:显示浏览器管理认证是否开启、当前浏览器是否已登录管理会话。
这套工具在 open 模式下也可用,方便你先备好密钥和令牌,再开启认证。相关端点策略与 open / management / authenticated / full-protected 四种授权模式详见 安全与认证章节。
为管理界面开启登录保护
默认情况下 BUI 与管理 API 不需要登录,适合本地单机使用。若要保护浏览器管理,可配置密码的 SHA-256 摘要并启用 management 模式:
export KRONK_AUTHORIZATION_MODE=management
export KRONK_WEB_ADMIN_PASSWORD_SHA_256="$(printf '%s' 'your-password' | shasum -a 256 | awk '{print $1}')"
kronk server start
登录后服务器会签发一个 1 小时的 admin token,存放在 HttpOnly、SameSite cookie 中——浏览器脚本读不到它,退出登录在侧边栏一键完成。把服务器暴露到受信任网络之外前,务必先读完 Chapter 12 中关于 TLS 与反向代理的说明。
上手建议清单
- 🚀 第一次使用:先跑
kronk server start,在 Kronk → HF Pull 拉一个小模型,再到 Chat 里开聊; - 💾 显存吃不准?先用 VRAM Calculator 估算,再决定下载哪个量化版本;
- 🔑 多客户端接入前,先在 Security 里建好 key 和限定端点的 token;
- 🧹 用完模型记得点 Unload Model——关闭浏览器标签页不会自动卸载,模型会一直留在池子中直到被驱逐或服务器重启。
Kronk Browser UI 把“下载模型 → 测试效果 → 签发凭据 → 观察运行”的完整链路压缩进了一个浏览器标签页,是本地部署 Kronk 模型服务器最顺手的第一站。

