使用Bonanza构建bb-storage项目的完整指南
前言
Bonanza是一个正在开发中的构建系统,目前主要专注于支持构建bb-storage项目。本文将详细介绍如何使用Bonanza构建bb-storage,通过这个过程,读者可以深入理解Bonanza的工作原理和独特设计。
准备工作
获取修改版的bb-storage
首先需要获取一个经过修改的bb-storage版本,这个版本包含了支持Bonanza构建的必要改动:
git clone git@github.com:buildbarn/bb-storage.git
cd bb-storage
git checkout eschouten/bonanza
建议查看与主分支的差异,了解为支持Bonanza所做的修改类型。
配置.bazelrc文件
为了简化构建过程,我们需要在~/.bazelrc中添加Bonanza专用的配置。以下是对关键配置项的详细说明:
远程缓存和执行器配置
common:bonanza --remote_cache=unix:///path/to/bonanza_storage_frontend.sock
common:bonanza --remote_executor=unix:///path/to/bonanza_scheduler_clients.sock
这些配置指定了Bonanza的存储前端和调度器的Unix域套接字路径。与Bazel不同,Bonanza使用自己的存储和执行协议。
加密配置
common:bonanza --remote_encryption_key=U3YDUwfejfiRDeD4aqoR7A==
Bonanza支持使用AES加密CAS对象。这个密钥可以在客户端生成,并在构建时传递给集群。更改密钥将导致整个缓存失效。
构建器身份验证
common:bonanza --remote_executor_builder_pkix_public_key=MCowBQYDK2VuAyEAE+onXE9lGj+1ykKMdYJ7ORbbGvDg6mXwX9H90afmdDI=
Bonanza使用X25519密钥对来识别不同类型的worker。这个公钥对应于演示部署中使用的私钥。
客户端证书
common:bonanza --remote_executor_client_private_key=/path/to/bonanza_bazel.key.pem
common:bonanza --remote_executor_client_certificate_chain=/path/to/bonanza_bazel.cert.pem
构建请求需要附带受信任的X.509证书和对应的X25519私钥,用于加密构建请求。
模块覆盖
common:bonanza --override_module=bazel_tools=/path/to/bazel_tools
common:bonanza --override_module=builtins_bzl=/path/to/builtins_bzl
common:bonanza --override_module=builtins_core=/path/to/builtins_core
这些配置指定了需要上传的额外Starlark代码模块。
内置模块
common:bonanza --builtins_module=builtins_core
common:bonanza --builtins_module=builtins_bzl
这些配置使得DefaultInfo、filegroup()、platform()等基础功能以及cc_binary()等规则无需显式加载即可使用。
平台配置
common:bonanza --repo_platform=//platforms:repo
这个配置指定了用于运行仓库规则的平台。值得注意的是,bb-storage的platforms/BUILD.bazel中包含了一些Bonanza特有的平台属性:
exec_pkix_public_key:替代Bazel的exec_properties和remote_execution_properties属性,包含识别worker类型的X25519公钥repository_os_*:包含运行仓库规则所需的平台额外信息
安装bonanza_bazel
要启动构建,需要安装Bonanza的命令行工具:
install -m 555 \
$(bazel run --run_under echo //cmd/bonanza_bazel) \
/usr/local/bin/bonanza_bazel
启动演示集群
可以在本地系统上启动一个演示集群:
bazel run //deployments/demo
这个命令会启动多个进程,包括:
- bonanza_builder:负责构建分析和编排
- bonanza_scheduler:调度器
- bonanza_storage_frontend:存储前端
- 多个bonanza_storage_shard实例:存储分片
- bonanza_worker:工作节点
- bb_runner:实际执行构建动作的进程
执行构建
一切准备就绪后,可以在bb-storage代码目录中执行构建:
bonanza_bazel build --config=bonanza //cmd/bb_storage
技术要点解析
-
安全模型:Bonanza采用了基于X25519密钥对的身份验证机制,相比传统的属性键值对提供了更强的安全性。
-
加密存储:支持客户端控制的AES加密,确保CAS对象在传输和存储过程中的安全性。
-
模块化设计:将核心功能实现为Starlark模块,提高了系统的可扩展性和灵活性。
-
平台抽象:通过
repo_platform配置实现了构建环境与运行环境的解耦,支持跨平台构建。 -
进程架构:保持了与Buildbarn类似的worker架构,使用单独的runner进程执行构建动作。
通过这个构建过程,开发者可以深入了解Bonanza的设计理念和技术实现,为未来支持更广泛的Bazel项目构建奠定基础。
kernelopenEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。C083
baihu-dataset异构数据集“白虎”正式开源——首批开放10w+条真实机器人动作数据,构建具身智能标准化训练基座。00
mindquantumMindQuantum is a general software library supporting the development of applications for quantum computation.Python056
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00
GLM-4.7GLM-4.7上线并开源。新版本面向Coding场景强化了编码能力、长程任务规划与工具协同,并在多项主流公开基准测试中取得开源模型中的领先表现。 目前,GLM-4.7已通过BigModel.cn提供API,并在z.ai全栈开发模式中上线Skills模块,支持多模态任务的统一规划与协作。Jinja00
agent-studioopenJiuwen agent-studio提供零码、低码可视化开发和工作流编排,模型、知识库、插件等各资源管理能力TSX0135
Spark-Formalizer-X1-7BSpark-Formalizer 是由科大讯飞团队开发的专用大型语言模型,专注于数学自动形式化任务。该模型擅长将自然语言数学问题转化为精确的 Lean4 形式化语句,在形式化语句生成方面达到了业界领先水平。Python00