【亲测免费】 Phi-3.5-mini-instruct模型的安装与使用教程

2026-01-29 12:37:09作者：秋泉律Samson

Phi-3.5-mini是轻量级、先进的开源模型，基于Phi-3模型家族构建，擅长理解和生成高质量的推理密集型数据。具备128K令牌上下文长度，适用于多语言场景，尤其适用于需要强大推理能力（如代码、数学和逻辑）的应用。通过严格的增强过程和精确的指令遵从性训练，确保了模型的稳健性和安全性。项目为多语言和长上下文任务如文档摘要和问答提供了强有力的支持，是AI研究和商业应用的理想选择。

项目地址：https://gitcode.com/hf_mirrors/ai-gitcode/Phi-3.5-mini-instruct

引言

Phi-3.5-mini-instruct是一款轻量级、先进的开源模型，适用于多种语言环境和多种场景。无论是对于商业应用还是研究工作，Phi-3.5-mini-instruct都是一个强大的工具。本文旨在帮助用户快速掌握Phi-3.5-mini-instruct的安装与使用方法，以便更好地利用其强大功能。

系统和硬件要求

在使用Phi-3.5-mini-instruct模型之前，请确保您的系统和硬件满足以下要求：

操作系统：Windows、Linux或macOS
Python版本：3.6或更高版本
硬件：CPU或GPU（建议使用CUDA支持的GPU，如NVIDIA的Tesla V100系列）

安装步骤

下载模型资源

您可以从以下链接下载Phi-3.5-mini-instruct模型资源：Phi-3.5-mini-instruct模型下载
安装依赖项

打开终端或命令提示符，运行以下命令安装Phi-3.5-mini-instruct所需的依赖项：
```
pip install transformers==4.27.4
```

加载模型

在您的Python脚本或Jupyter Notebook中，运行以下代码加载Phi-3.5-mini-instruct模型：

from transformers import Phi3_5MiniInstruct

model = Phi3_5MiniInstruct.from_pretrained('microsoft/Phi-3.5-mini-instruct')

基本使用方法

以下是一个简单的使用Phi-3.5-mini-instruct模型的示例：
```
model.generate('今天天气怎么样？')
```
这将返回一个关于今天天气的回答。
参数设置说明

Phi-3.5-mini-instruct模型支持多种参数设置，您可以根据需求进行调整。以下是一些常用参数的说明：
- max_length：生成文本的最大长度，默认值为50。
- temperature：控制生成文本的随机性，值越小，生成文本越保守；值越大，生成文本越随机。默认值为1.0。
- top_k：控制生成文本的多样性，值越大，生成文本越多样。默认值为50。
- top_p：控制生成文本的连贯性，值越大，生成文本越连贯。默认值为1.0。