web-bench 的项目扩展与二次开发

项目的基础介绍

Web-Bench 是一个用于评估大型语言模型（LLM）在实际 Web 开发中性能的基准测试工具。它包含了 50 个项目，每个项目由 20 个具有顺序依赖性的任务组成，这些任务依次实现项目的特性，模拟真实世界的开发工作流程。Web-Bench 旨在覆盖 Web 开发的基石：Web 标准和 Web 框架。

项目的核心功能

Web-Bench 的核心功能是通过一系列的编程任务来测试和评估 LLM 在 Web 开发中的表现。这些任务由经验丰富的工程师设计，每个项目都具有一定的挑战性，平均完成一个项目需要高级工程师 4-8 小时的时间。当前最先进的 LLM（如 Claude 3.7 Sonnet）在 Web-Agent 上的 Pass@1 只有 25.1%，显示了当前代码生成能力的局限性。

项目使用了哪些框架或库？

Web-Bench 项目主要使用了以下框架和库：

• Node.js：项目基于 Node.js 环境。
• pnpm：作为包管理工具。
• @microsoft/rush：用于管理和构建项目。
• playwright：用于自动化浏览器测试。

项目的代码目录及介绍

项目的代码目录结构如下：

Web-Bench/
├── apps/
├── eval/
├── common/
├── docs/
│   ├── assets/
├── libraries/
├── projects/
│   ├── angular/
│   ├── ...
├── scripts/
├── tools/
├── .dockerignore
├── .gitattributes
├── .gitignore
├── .prettierrc.json
├── LICENSE.md
├── README.md
├── README.zh_CN.md
├── pnpm-lock.yaml
├── rush.json
└── start.dockerfile

• apps/：可能包含一些示例应用程序或相关脚本。
• eval/：包含评估工具和脚本。
• common/：存放通用库和工具。
• docs/：包含项目文档和相关资源。
• libraries/：可能包含项目使用的第三方库。
• projects/：包含 50 个子项目，每个项目包含多个任务。
• scripts/：可能包含一些辅助脚本。
• tools/：包含项目开发中使用的工具。

对项目进行扩展或者二次开发的方向

1. 增强评估工具：可以开发更加精细化的评估工具，以更全面地测试 LLM 的性能。
2. 增加项目案例：可以根据实际需求增加更多的项目案例，以覆盖更多的 Web 开发场景。
3. 扩展任务类型：在任务中引入更多样化的编程任务，以测试 LLM 在不同类型任务中的表现。
4. 集成其他框架：可以尝试将其他流行的 Web 框架集成到项目中，以增加测试的广度和深度。
5. 社区协作：鼓励社区贡献者参与项目，共同改进和扩展 Web-Bench 的功能和案例。