Talos 三大核心命令 pair/run/status 完全解析:共享 GPU 的完整操作清单
Talos 三大核心命令 pair/run/status 完全解析:共享 GPU 的完整操作清单
Talos 是一个开源的 GPU worker client(GPU 工作节点客户端),让你把闲置的显卡算力共享给 Talos 网络,为网络中的开源模型推理任务服务并按实际用量获得收益分成。整个客户端只有三个命令——pair、run、status:配对账号、启动共享、体检排障。本文就是这份"共享 GPU"操作的完整清单,新手照着敲命令即可上线。
一分钟了解:Talos worker 是什么 🤖
在开始之前,先明确它的工作方式(见 README.md):
- 配对:用你的 Talos 账号生成的一次性设备码,把本机绑定为网络中的一台 worker;
- 服务:任务通过网络经 WebSocket 下发,本机调用 本地 Ollama 中的开源模型完成推理,token 逐段流式回传;
- 计酬:在线时长持续累计,每完成一个任务计一次收益,可在 Talos 仪表盘查看。
环境要求与安装
| 项目 | 要求 |
|---|---|
| Python | 3.9 及以上 |
| Ollama | 本地运行,且至少拉取一个模型(如 ollama pull llama3.1:8b) |
| GPU | 推荐 NVIDIA(自动检测),无显卡也可用 CPU 运行 |
在项目根目录执行:
pip install -e .
安装后可用命令为 talos-worker,入口定义见 pyproject.toml。
三大命令速览
| 命令 | 作用 | 何时使用 |
|---|---|---|
talos-worker pair |
用设备码把本机绑定到你的 Talos 账号 | 首次部署,一次性操作 |
talos-worker run |
连接网络并开始承接推理任务 | 想让机器开始"干活"赚钱时 |
talos-worker status |
查看配置、配对状态、GPU 与可用模型 | 排障或确认环境是否正常 |
命令注册逻辑位于 talos_worker/main.py。
talos-worker pair:把你的机器绑定到账号 🔑
交互式配对(默认方式)
先在你的 Talos 仪表盘点击 Pair a device 拿到配对码,然后执行:
talos-worker pair
终端会提示 Enter the pairing code from your Talos dashboard:,粘贴 TALOS-XXXX-XXXX 形式的码即可。
非交互式配对(适合脚本/服务器环境)
talos-worker pair --code TALOS-XXXX-XXXX --server https://api.usetalos.xyz
pair 子命令支持的参数(见 talos_worker/main.py):
| 参数 | 说明 |
|---|---|
--code |
配对码,省略则交互式输入 |
--server |
Talos 服务器地址 |
--ollama |
本地 Ollama 地址(默认 http://localhost:11434) |
--name |
给这台 worker 起一个易识别的名字 |
pair 背后实际做了什么?
配对并不只是"提交一个码",客户端会依次完成四步(实现见 talos_worker/pairing.py 与 talos_worker/main.py):
- 检测 GPU:自动识别主 NVIDIA 显卡及显存大小(talos_worker/gpu.py),没有则显示
none (CPU only); - 枚举模型:向本地 Ollama 查询已安装的模型列表(如
llama3.1:8b),一并上报给网络,决定这台机器能接哪些任务; - 兑换配对码:调用服务器的
/pair/redeem接口,用一次性码换取workerToken和workerId; - 落盘凭证:结果写入
~/.talos/worker.json(权限设为 0600,见 talos_worker/config.py),之后run无需再输入任何码。
成功后会看到 paired successfully. Worker id: ...,并提示你执行下一步:talos-worker run。
talos-worker run:启动推理服务开始共享 🚀
最简启动
talos-worker run
控制"出让多少算力":allocation 参数
talos-worker run --allocation 0.5
--allocation 取值 0~1,表示你愿意出让本机多大比例的算力。注意:它映射的是并发度/占空比,而不是字面意义的"功耗百分比"(默认 0.5,见 talos_worker/config.py)。
本地仪表盘:8674 端口的实时控制台
run 默认会在本机启动一个只监听 127.0.0.1 的仪表盘:
http://127.0.0.1:8674
页面上可以实时看到(数据来源见 talos_worker/state.py):
- Status:Connected / Offline 连接状态
- GPU / Models:显卡型号与在役模型
- Uptime / Jobs handled / Tokens served / Active jobs:在线时长、已完成任务数、已服务 token 数、当前活跃任务数
- Power allocation 滑块:拖动并点 Save 即可在运行中调整算力出让比例(实现见 talos_worker/dashboard.py)
run 的全部参数一览:
| 参数 | 说明 |
|---|---|
--server |
临时覆盖服务器地址 |
--allocation |
算力分配 0~1(如 0.5),会持久化保存 |
--dashboard-port |
仪表盘端口,默认 8674 |
--no-dashboard |
完全禁用本地仪表盘 |
run 的长连接机制:断线自动重连 ⚡
worker 与网关之间是一条 WebSocket 长连接(核心逻辑见 talos_worker/client.py):
- 连接后发送
register消息,携带机器名、GPU 信息和模型清单; - 按服务器下发的间隔持续发送
heartbeat(含 allocation 与 busy 状态),在线时长由此累计; - 收到
job消息即启动一个并发任务,通过 Ollama 流式推理并逐块回传(talos_worker/inference.py),完成后上报 prompt/completion token 数; - 网络异常时自动指数退避重连(1 秒起、封顶 30 秒),因此你可以放心让它长期挂着运行。
talos-worker status:一条命令体检环境 🩺
talos-worker status
输出示例(字段生成逻辑见 talos_worker/main.py):
server: http://localhost:8080
paired: yes
workerId: 9f2c...
name: my-gpu-box
gpu: NVIDIA GeForce RTX 4090 (24564 MB)
models: llama3.1:8b
它是排障的第一站:paired: no 说明还没配对;models: (none) 说明 Ollama 没起来或还没拉模型;gpu: none 则代表当前按纯 CPU 模式运行。提交 issue 时官方也建议附上 talos-worker status 的输出(见 CONTRIBUTING.md)。
常见问题速查 ❓
Q1:执行 run 报 Not paired. Run talos-worker pair first.
这是最常见的提示:本机还没有有效凭证。先完成 talos-worker pair 即可(检查点在 talos_worker/client.py)。
Q2:状态里 models: (none),任务会不会分不到?
会。网络按你上报的模型清单派单,没有任何模型时几乎接不到任务。先执行 ollama pull llama3.1:8b 之类命令拉取模型,再重新 run。
Q3:没有 NVIDIA 显卡能跑吗? 可以。GPU 检测采用"优雅降级"策略,检测失败就按 CPU 模式上报(talos_worker/gpu.py),只是收益竞争力会弱一些。
Q4:配置存在哪里?想换目录怎么办?
默认在 ~/.talos/worker.json;可通过环境变量 TALOS_HOME 改目录、TALOS_SERVER 改默认服务器、OLLAMA_HOST 改 Ollama 地址(见 talos_worker/config.py)。
Q5:仪表盘端口被占用了?
talos-worker run --dashboard-port 8675 换一个端口,或用 --no-dashboard 直接关掉仪表盘,不影响共享本身。
延伸阅读:路径索引 📚
| 内容 | 位置 |
|---|---|
| 项目总览与命令表 | README.md |
| CLI 入口(pair/run/status) | talos_worker/main.py |
| 配对码兑换 | talos_worker/pairing.py |
| 配置持久化 | talos_worker/config.py |
| WebSocket 任务循环 | talos_worker/client.py |
| 本地仪表盘 | talos_worker/dashboard.py |
| Ollama 推理封装 | talos_worker/inference.py |
| GPU 检测 | talos_worker/gpu.py |
| 贡献指南(含本地假 Ollama 调试方法) | CONTRIBUTING.md |
💡 顺便一提:如果你不打算共享 GPU,只是想使用 Talos 网络的推理能力(talos-auto),无需运行 worker,直接看 sdk/ 与 docs/ 的编辑器配置指南即可。
记住这份清单:pair 绑一次 → run 挂着跑 → status 常体检,你的 GPU 就可以开始为网络服务并累计收益了。