如何快速上手DeepSeek-R1：新一代推理模型的完整指南

DeepSeek-R1是DeepSeek-AI推出的新一代推理模型，通过大规模强化学习实现自主推理能力，在数学、编程和逻辑推理任务上表现卓越。该项目开源了DeepSeek-R1系列模型，包括DeepSeek-R1-Zero和DeepSeek-R1，以及基于Llama和Qwen的六个蒸馏模型，为研究社区提供了强大的推理能力探索工具。

项目核心亮点

为什么要选择DeepSeek-R1？ 这里有五个关键理由：

1. 突破性强化学习训练：DeepSeek-R1-Zero是首个完全通过强化学习（RL）训练而不依赖监督微调（SFT）的模型，验证了纯粹通过RL激励LLM推理能力的可行性，这在AI研究领域具有里程碑意义。

2. 卓越的推理性能：在多项基准测试中，DeepSeek-R1在数学推理（AIME 2024达到79.8%准确率）、编程（Codeforces达到96.3%百分位）和科学问答（GPQA Diamond达到71.5%）等任务上表现优异，与OpenAI-o1系列模型性能相当。

3. 高效的模型蒸馏：项目提供了从1.5B到70B参数的六个蒸馏模型，这些模型继承了DeepSeek-R1的推理模式，性能远超同类规模模型。特别是DeepSeek-R1-Distill-Qwen-32B在多项基准测试中超越了OpenAI-o1-mini。

4. 128K超长上下文：支持128K的上下文长度，能够处理长文档和复杂推理任务，适合需要深入分析和多步推理的应用场景。

5. 完整的开源生态：基于DeepSeek-V3架构，采用混合专家（MoE）设计，总参数达671B，激活参数37B，提供完整的模型权重和配置文件，支持商业使用和二次开发。

快速上手指南

环境准备与模型下载

步骤一：安装依赖环境 首先确保你的系统有足够的GPU资源（建议至少24GB显存），然后安装必要的Python包：

pip install transformers torch accelerate

步骤二：克隆仓库并下载模型 从官方仓库获取DeepSeek-R1模型文件：

git clone https://gitcode.com/hf_mirrors/deepseek-ai/DeepSeek-R1
cd DeepSeek-R1

步骤三：配置模型加载 查看config.json了解模型配置，DeepSeek-R1采用DeepSeek-V3架构，包含61个隐藏层、128个注意力头，支持128K上下文长度。

模型推理与使用

步骤四：使用Transformers加载模型 虽然Hugging Face的Transformers尚未直接支持DeepSeek-R1，但可以通过以下方式加载蒸馏模型：

from transformers import AutoModelForCausalLM, AutoTokenizer

# 加载蒸馏模型
model = AutoModelForCausalLM.from_pretrained(
    "deepseek-ai/DeepSeek-R1-Distill-Qwen-32B",
    torch_dtype=torch.bfloat16,
    device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-R1-Distill-Qwen-32B")

步骤五：配置推理参数 根据generation_config.json的建议配置：

generation_config = {
    "do_sample": True,
    "temperature": 0.6,  # 推荐范围0.5-0.7
    "top_p": 0.95,
    "max_new_tokens": 512
}

步骤六：运行推理示例 对于数学问题，建议在提示中加入推理指令：

prompt = "请逐步推理，并将最终答案放在\\boxed{}中。问题：一个圆的半径是5cm，面积是多少？"
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, **generation_config)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)

部署与优化技巧

步骤七：使用vLLM部署服务 对于生产环境，推荐使用vLLM进行高效部署：

vllm serve deepseek-ai/DeepSeek-R1-Distill-Qwen-32B \
    --tensor-parallel-size 2 \
    --max-model-len 32768 \
    --enforce-eager

步骤八：使用SGLang部署 SGLang提供了另一种高效的部署方案：

python3 -m sglang.launch_server \
    --model deepseek-ai/DeepSeek-R1-Distill-Qwen-32B \
    --trust-remote-code \
    --tp 2

进阶使用技巧

1. 优化推理性能的关键配置

根据README.md中的使用建议，要获得最佳性能，必须遵循以下配置：

• 温度设置：始终将温度设置在0.5-0.7之间（推荐0.6），避免无限重复或不连贯输出
• 系统提示：不要添加系统提示，所有指令应包含在用户提示中
• 数学问题格式：对于数学问题，在提示中加入"请逐步推理，并将最终答案放在\boxed{}中"
• 强制思考模式：为确保模型进行深入推理，建议强制模型以"\n"开始每个输出

2. 模型蒸馏与应用场景

DeepSeek-R1提供了六个蒸馏模型，适用于不同场景：

• DeepSeek-R1-Distill-Qwen-1.5B：适用于移动设备和边缘计算
• DeepSeek-R1-Distill-Qwen-7B/14B：平衡性能与资源消耗，适合中小企业
• DeepSeek-R1-Distill-Qwen-32B：性能接近原版，适合研究和高要求应用
• DeepSeek-R1-Distill-Llama-8B/70B：基于Llama架构，提供更多框架兼容性

3. 自定义微调与扩展

查看modeling_deepseek.py和configuration_deepseek.py了解模型架构细节：

• MoE架构：模型采用混合专家设计，包含256个路由专家和1个共享专家
• 量化支持：支持FP8量化，减少内存占用
• 自定义扩展：可通过修改配置实现特定领域微调

总结与资源

DeepSeek-R1代表了推理模型领域的重要突破，其纯强化学习方法为AI推理能力的发展开辟了新路径。项目不仅提供了强大的基础模型，还通过蒸馏技术让更小的模型也能获得优秀的推理能力。

关键资源：

• 官方文档：DeepSeek-V3仓库了解更多架构细节
• 模型权重：所有模型权重在Hugging Face上公开可用
• 论文链接：DeepSeek-R1论文详细介绍了技术实现
• 在线体验：通过chat.deepseek.com体验DeepSeek-R1的推理能力

使用建议：

1. 对于研究目的，建议使用完整的DeepSeek-R1模型
2. 对于实际应用，推荐使用蒸馏模型以获得更好的性价比
3. 始终遵循推荐的配置参数以获得最佳性能
4. 对于数学和编程任务，充分利用模型的逐步推理能力

DeepSeek-R1的开源为AI研究社区提供了强大的工具，推动了大型语言模型推理能力的发展，是进行复杂问题解决和逻辑推理任务的理想选择。