LMDeploy项目在Ascend设备上的Docker构建问题解析

背景介绍

LMDeploy是一个开源的大模型部署工具，支持在多种硬件平台上部署和运行大型语言模型。当用户尝试在Ascend设备上使用Docker构建LMDeploy环境时，可能会遇到构建失败的问题，特别是在使用较旧版本的Docker（如18.09）时。

问题现象

在使用Docker 18.09版本构建LMDeploy的aarch64_ascend镜像时，构建过程会失败并报错"Unknown flag: mount"。这个错误源于Dockerfile中使用了较新的构建特性，而旧版Docker不支持这些特性。

技术分析

Docker构建机制的变化

Docker 18.09版本与较新版本在构建机制上有显著差异：

1. BuildKit支持：新版Docker默认使用BuildKit作为构建引擎，而旧版需要显式启用
2. mount指令：mount参数是新版Docker引入的特性，用于优化构建过程中的缓存管理
3. 语法声明：新版Dockerfile支持通过特殊注释声明语法版本

具体问题原因

在LMDeploy的Dockerfile_aarch64_ascend中，使用了mount参数来管理pip缓存，这在Docker 18.09中不被支持。虽然理论上可以通过添加语法声明来解决，但在实际测试中发现这并不能完全解决问题。

解决方案

推荐方案：升级Docker版本

最彻底的解决方案是升级到较新的Docker版本。新版Docker不仅支持mount等新特性，还提供了更好的构建性能和更丰富的功能。

替代方案：修改Dockerfile

如果无法升级Docker版本，可以考虑修改Dockerfile：

1. 移除mount参数：虽然会降低构建速度，但可以保证兼容性
2. 简化构建步骤：手动处理原本由mount参数管理的缓存功能

环境准备建议

对于Ascend设备用户，特别是使用OpenEuler操作系统的用户：

1. 确保已安装基础Ascend环境
2. 确认已安装CANN 8.0.0 beta1及以上版本
3. 检查nnal库是否已正确安装
4. 考虑直接从源码安装lmdeploy和dlinfer

总结

在Ascend设备上部署LMDeploy时，建议使用较新的Docker版本以获得最佳兼容性和性能。如果受限于环境无法升级，可以通过修改Dockerfile来适配旧版Docker，但需要注意这可能会牺牲部分构建优化功能。对于OpenEuler用户，直接从源码安装可能是更可靠的选择。