Modelscope模型加载报错问题解析：Config file should not be None

在使用Modelscope进行模型微调时，开发者可能会遇到"Config file should not be None if model is not from pretrained"的错误提示。这个问题通常出现在尝试加载本地模型进行微调的场景中。

问题现象

当开发者尝试使用以下代码加载本地模型路径进行微调时：

kwargs = dict(
    model=Model.from_pretrained("d:/微调现成模型/Llama3-8B-Chinese-Chat"),
    train_dataset=ds,
    cfg_modify_fn=cfg_modify_fn
)
trainer = build_trainer(default_args=kwargs)
trainer.train()

系统会抛出配置文件不能为None的错误，即使开发者确实是从预训练模型加载。

问题原因

这个错误的核心原因在于模型加载方式不正确。Modelscope框架提供了专门的AutoModel类来正确加载预训练模型，而直接使用Model.from_pretrained可能无法正确处理模型配置。

解决方案

正确的做法是使用Modelscope提供的AutoModel类来加载模型：

from modelscope import AutoModel

model = AutoModel.from_pretrained("d:/微调现成模型/Llama3-8B-Chinese-Chat")

深入理解

Modelscope的模型加载机制需要特定的配置文件来正确初始化模型架构和参数。AutoModel类会自动处理这些细节：

1. 它会查找模型目录下的配置文件(config.json)
2. 根据配置文件确定模型架构
3. 加载预训练权重
4. 完成模型初始化

而直接使用Model.from_pretrained可能无法正确完成这一系列操作，导致配置文件加载失败。

最佳实践

对于Modelscope框架下的模型微调，建议：

1. 始终使用AutoModel加载预训练模型
2. 确保模型目录包含完整的配置文件
3. 检查模型路径是否正确
4. 确认模型与当前框架版本兼容

通过遵循这些实践，可以避免大多数模型加载相关的问题，顺利进行后续的微调工作。