mvfst 项目教程
1. 项目介绍
mvfst(发音为“move fast”)是 Facebook 开发的一个 C++ 实现的 IETF QUIC 协议的客户端和服务器端。QUIC 是一种基于 UDP 的可靠、多路复用的传输协议,旨在成为互联网标准。mvfst 的目标是构建一个高性能的 QUIC 传输协议实现,适用于互联网和数据中心的应用场景。
mvfst 已经在 Android 和 iOS 应用以及服务器上进行了大规模测试,并具备多种特性以支持大规模部署。
主要特性
-
服务器特性:
- 多线程 UDP 服务器,采用线程本地架构,能够扩展到多核服务器。
- 可定制的 Connection-Id 路由,默认实现与 katran API 集成,支持零停机重启服务器。
- 零 RTT 连接建立和可定制的零 RTT 路径验证。
- 支持 UDP 通用分段卸载(GSO)以加速 UDP 写入。
-
客户端特性:
- 原生 IPv4 和 IPv6 之间的 Happy Eyeballs 支持,应用程序无需自行实现。
- 可插拔的拥塞控制,支持关闭拥塞控制以插入应用程序特定的控制算法。
2. 项目快速启动
2.1 环境准备
在开始之前,确保你的系统已经安装了以下依赖:
- Python 3.6 或更高版本
- CMake
- 其他构建工具(如
make、gcc等)
2.2 克隆项目
首先,克隆 mvfst 项目到本地:
git clone https://github.com/facebookincubator/mvfst.git
cd mvfst
2.3 构建项目
使用 getdeps.py 脚本进行构建:
./build/fbcode_builder/getdeps.py build mvfst --install-prefix=$(pwd)/_build
2.4 运行示例客户端和服务器
构建完成后,可以在 _build 目录下找到示例客户端和服务器:
cd $(python3 ./build/fbcode_builder/getdeps.py show-build-dir mvfst)/quic/samples/echo
启动服务器:
./echo -mode=server -host=::1 -port=4433
启动客户端:
./echo -mode=client -host=::1 -port=4433
3. 应用案例和最佳实践
3.1 大规模部署
mvfst 已经在 Facebook 的 Android 和 iOS 应用中进行了大规模测试,并且在大规模服务器部署中表现出色。其多线程架构和可定制的 Connection-Id 路由使其能够轻松扩展到多核服务器。
3.2 零停机重启
通过与 katran API 集成,mvfst 支持零停机重启服务器,确保应用程序在重启时不会丢失连接。
3.3 高性能 UDP 写入
mvfst 支持 UDP 通用分段卸载(GSO),可以显著提高 UDP 写入的性能,适用于需要高吞吐量的应用场景。
4. 典型生态项目
4.1 Proxygen
Proxygen 是 Facebook 开发的一个 HTTP/3 实现,使用了 mvfst 作为其 QUIC 传输层。Proxygen 提供了完整的 HTTP/3 支持,适用于需要高性能和低延迟的 Web 服务。
4.2 katran
katran 是 Facebook 开发的一个高性能第 4 层负载均衡器,与 mvfst 集成,提供了零停机重启和 Connection-Id 路由等功能。
4.3 folly
folly 是 Facebook 开发的一个 C++ 库集合,提供了许多高性能的数据结构和算法。mvfst 依赖于 folly 进行构建和运行。
通过这些生态项目,mvfst 可以与其他高性能基础设施组件无缝集成,提供全面的解决方案。
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00
unified-cache-managementUnified Cache Manager(推理记忆数据管理器),是一款以KV Cache为中心的推理加速套件,其融合了多类型缓存加速算法工具,分级管理并持久化推理过程中产生的KV Cache记忆数据,扩大推理上下文窗口,以实现高吞吐、低时延的推理体验,降低每Token推理成本。Python03
MiniCPM-V-4_5MiniCPM-V 4.5 是 MiniCPM-V 系列中最新且功能最强的模型。该模型基于 Qwen3-8B 和 SigLIP2-400M 构建,总参数量为 80 亿。与之前的 MiniCPM-V 和 MiniCPM-o 模型相比,它在性能上有显著提升,并引入了新的实用功能Python00
HunyuanWorld-Mirror混元3D世界重建模型,支持多模态先验注入和多任务统一输出Python00
MiniMax-M2MiniMax-M2是MiniMaxAI开源的高效MoE模型,2300亿总参数中仅激活100亿,却在编码和智能体任务上表现卓越。它支持多文件编辑、终端操作和复杂工具链调用Python00
Spark-Scilit-X1-13B科大讯飞Spark Scilit-X1-13B基于最新一代科大讯飞基础模型,并针对源自科学文献的多项核心任务进行了训练。作为一款专为学术研究场景打造的大型语言模型,它在论文辅助阅读、学术翻译、英语润色和评论生成等方面均表现出色,旨在为研究人员、教师和学生提供高效、精准的智能辅助。Python00
GOT-OCR-2.0-hf阶跃星辰StepFun推出的GOT-OCR-2.0-hf是一款强大的多语言OCR开源模型,支持从普通文档到复杂场景的文字识别。它能精准处理表格、图表、数学公式、几何图形甚至乐谱等特殊内容,输出结果可通过第三方工具渲染成多种格式。模型支持1024×1024高分辨率输入,具备多页批量处理、动态分块识别和交互式区域选择等创新功能,用户可通过坐标或颜色指定识别区域。基于Apache 2.0协议开源,提供Hugging Face演示和完整代码,适用于学术研究到工业应用的广泛场景,为OCR领域带来突破性解决方案。00- HHowToCook程序员在家做饭方法指南。Programmer's guide about how to cook at home (Chinese only).Dockerfile014
Spark-Chemistry-X1-13B科大讯飞星火化学-X1-13B (iFLYTEK Spark Chemistry-X1-13B) 是一款专为化学领域优化的大语言模型。它由星火-X1 (Spark-X1) 基础模型微调而来,在化学知识问答、分子性质预测、化学名称转换和科学推理方面展现出强大的能力,同时保持了强大的通用语言理解与生成能力。Python00- PpathwayPathway is an open framework for high-throughput and low-latency real-time data processing.Python00