Talos 三大核心命令 pair/run/status 完全解析:共享 GPU 的完整操作清单

原创2026-11-01 17:00:101,923 阅读

Talos 三大核心命令 pair/run/status 完全解析:共享 GPU 的完整操作清单

Talos 是一个开源的 GPU worker client(GPU 工作节点客户端),让你把闲置的显卡算力共享给 Talos 网络,为网络中的开源模型推理任务服务并按实际用量获得收益分成。整个客户端只有三个命令——pair、run、status:配对账号、启动共享、体检排障。本文就是这份"共享 GPU"操作的完整清单,新手照着敲命令即可上线。

一分钟了解:Talos worker 是什么 🤖

在开始之前,先明确它的工作方式(见 README.md):

  • 配对:用你的 Talos 账号生成的一次性设备码,把本机绑定为网络中的一台 worker;
  • 服务:任务通过网络经 WebSocket 下发,本机调用 本地 Ollama 中的开源模型完成推理,token 逐段流式回传;
  • 计酬:在线时长持续累计,每完成一个任务计一次收益,可在 Talos 仪表盘查看。

环境要求与安装

项目 要求
Python 3.9 及以上
Ollama 本地运行,且至少拉取一个模型(如 ollama pull llama3.1:8b)
GPU 推荐 NVIDIA(自动检测),无显卡也可用 CPU 运行

在项目根目录执行:

pip install -e .

安装后可用命令为 talos-worker,入口定义见 pyproject.toml。

三大命令速览

命令 作用 何时使用
talos-worker pair 用设备码把本机绑定到你的 Talos 账号 首次部署,一次性操作
talos-worker run 连接网络并开始承接推理任务 想让机器开始"干活"赚钱时
talos-worker status 查看配置、配对状态、GPU 与可用模型 排障或确认环境是否正常

命令注册逻辑位于 talos_worker/main.py。

talos-worker pair:把你的机器绑定到账号 🔑

交互式配对(默认方式)

先在你的 Talos 仪表盘点击 Pair a device 拿到配对码,然后执行:

talos-worker pair

终端会提示 Enter the pairing code from your Talos dashboard:,粘贴 TALOS-XXXX-XXXX 形式的码即可。

非交互式配对(适合脚本/服务器环境)

talos-worker pair --code TALOS-XXXX-XXXX --server https://api.usetalos.xyz

pair 子命令支持的参数(见 talos_worker/main.py):

参数 说明
--code 配对码,省略则交互式输入
--server Talos 服务器地址
--ollama 本地 Ollama 地址(默认 http://localhost:11434)
--name 给这台 worker 起一个易识别的名字

pair 背后实际做了什么?

配对并不只是"提交一个码",客户端会依次完成四步(实现见 talos_worker/pairing.py 与 talos_worker/main.py):

  1. 检测 GPU:自动识别主 NVIDIA 显卡及显存大小(talos_worker/gpu.py),没有则显示 none (CPU only);
  2. 枚举模型:向本地 Ollama 查询已安装的模型列表(如 llama3.1:8b),一并上报给网络,决定这台机器能接哪些任务;
  3. 兑换配对码:调用服务器的 /pair/redeem 接口,用一次性码换取 workerToken 和 workerId;
  4. 落盘凭证:结果写入 ~/.talos/worker.json(权限设为 0600,见 talos_worker/config.py),之后 run 无需再输入任何码。

成功后会看到 paired successfully. Worker id: ...,并提示你执行下一步:talos-worker run。

talos-worker run:启动推理服务开始共享 🚀

最简启动

talos-worker run

控制"出让多少算力":allocation 参数

talos-worker run --allocation 0.5

--allocation 取值 0~1,表示你愿意出让本机多大比例的算力。注意:它映射的是并发度/占空比,而不是字面意义的"功耗百分比"(默认 0.5,见 talos_worker/config.py)。

本地仪表盘:8674 端口的实时控制台

run 默认会在本机启动一个只监听 127.0.0.1 的仪表盘:

http://127.0.0.1:8674

页面上可以实时看到(数据来源见 talos_worker/state.py):

  • Status:Connected / Offline 连接状态
  • GPU / Models:显卡型号与在役模型
  • Uptime / Jobs handled / Tokens served / Active jobs:在线时长、已完成任务数、已服务 token 数、当前活跃任务数
  • Power allocation 滑块:拖动并点 Save 即可在运行中调整算力出让比例(实现见 talos_worker/dashboard.py)

run 的全部参数一览:

参数 说明
--server 临时覆盖服务器地址
--allocation 算力分配 0~1(如 0.5),会持久化保存
--dashboard-port 仪表盘端口,默认 8674
--no-dashboard 完全禁用本地仪表盘

run 的长连接机制:断线自动重连 ⚡

worker 与网关之间是一条 WebSocket 长连接(核心逻辑见 talos_worker/client.py):

  • 连接后发送 register 消息,携带机器名、GPU 信息和模型清单;
  • 按服务器下发的间隔持续发送 heartbeat(含 allocation 与 busy 状态),在线时长由此累计;
  • 收到 job 消息即启动一个并发任务,通过 Ollama 流式推理并逐块回传(talos_worker/inference.py),完成后上报 prompt/completion token 数;
  • 网络异常时自动指数退避重连(1 秒起、封顶 30 秒),因此你可以放心让它长期挂着运行。

talos-worker status:一条命令体检环境 🩺

talos-worker status

输出示例(字段生成逻辑见 talos_worker/main.py):

server:   http://localhost:8080
paired:   yes
workerId: 9f2c...
name:     my-gpu-box
gpu:      NVIDIA GeForce RTX 4090 (24564 MB)
models:   llama3.1:8b

它是排障的第一站:paired: no 说明还没配对;models: (none) 说明 Ollama 没起来或还没拉模型;gpu: none 则代表当前按纯 CPU 模式运行。提交 issue 时官方也建议附上 talos-worker status 的输出(见 CONTRIBUTING.md)。

常见问题速查 ❓

Q1:执行 run 报 Not paired. Run talos-worker pair first. 这是最常见的提示:本机还没有有效凭证。先完成 talos-worker pair 即可(检查点在 talos_worker/client.py)。

Q2:状态里 models: (none),任务会不会分不到? 会。网络按你上报的模型清单派单,没有任何模型时几乎接不到任务。先执行 ollama pull llama3.1:8b 之类命令拉取模型,再重新 run。

Q3:没有 NVIDIA 显卡能跑吗? 可以。GPU 检测采用"优雅降级"策略,检测失败就按 CPU 模式上报(talos_worker/gpu.py),只是收益竞争力会弱一些。

Q4:配置存在哪里?想换目录怎么办? 默认在 ~/.talos/worker.json;可通过环境变量 TALOS_HOME 改目录、TALOS_SERVER 改默认服务器、OLLAMA_HOST 改 Ollama 地址(见 talos_worker/config.py)。

Q5:仪表盘端口被占用了? talos-worker run --dashboard-port 8675 换一个端口,或用 --no-dashboard 直接关掉仪表盘,不影响共享本身。

延伸阅读:路径索引 📚

内容 位置
项目总览与命令表 README.md
CLI 入口(pair/run/status) talos_worker/main.py
配对码兑换 talos_worker/pairing.py
配置持久化 talos_worker/config.py
WebSocket 任务循环 talos_worker/client.py
本地仪表盘 talos_worker/dashboard.py
Ollama 推理封装 talos_worker/inference.py
GPU 检测 talos_worker/gpu.py
贡献指南(含本地假 Ollama 调试方法) CONTRIBUTING.md

💡 顺便一提:如果你不打算共享 GPU,只是想使用 Talos 网络的推理能力(talos-auto),无需运行 worker,直接看 sdk/ 与 docs/ 的编辑器配置指南即可。

记住这份清单:pair 绑一次 → run 挂着跑 → status 常体检,你的 GPU 就可以开始为网络服务并累计收益了。

登录后查看全文
Talos