Generative AI for Beginners:提示工程(Prompt Engineering)核心原理与实战指南

原创2026-09-08 21:39:531,847 阅读
文章标签:人工智能大模型教程示例工程提示工程RAGAI Agent微调向量数据库教育

Generative AI for Beginners:提示工程(Prompt Engineering)核心原理与实战指南

导读

本篇技术指南以开源课程 generative-ai-for-beginners 的第 4 课(04-prompt-engineering-fundamentals)为骨架,系统讲解什么是提示(Prompt)、什么是提示工程(Prompt Engineering),以及在大语言模型(LLM)应用中如何设计、优化提示以获得一致且高质量的输出。通过本文,你将掌握 Tokenization、基础模型与指令调优模型的区别、基础/复杂/指令三类提示的构建方法、主要内容与次要内容两大设计模式、零样本/单样本/少样本提示与提示线索(Cue)等核心技术,并能在课程配套的 Jupyter Notebook 沙箱中亲手验证每一项技术。

什么是提示工程:从“艺术”到“科学”

课程对 提示工程(Prompt Engineering) 给出了明确的定义:它是针对给定的应用目标与模型,对文本输入(提示)进行 设计(Design) 与 优化(Optimization),从而获得一致且高质量响应(Completion)的过程。本质上它是一个两步流程:

  • 设计:为给定模型与目标编写初始提示;
  • 精炼:通过迭代修正提示,持续提升响应质量。

这正是课程强调的“提示工程目前更像艺术而非科学”的含义——它必然是一个依赖直觉与试错(trial-and-error)的过程。但之所以值得投入精力,是因为我们需要先理解三个底层概念:Tokenization(令牌化)、基础模型(Base/Foundation LLM) 与 指令调优模型(Instruction-Tuned LLM)。理解了模型“如何看提示”“如何处理提示”“如何识别任务”,才能有的放矢地设计提示。

令牌化:模型眼中的提示

大语言模型并不直接阅读原始文本,而是把提示视为一串 令牌(Token)。不同模型(或同一模型的不同版本)对同一提示的切分方式可能完全不同。由于 LLM 是在令牌(而非原始文本)上训练的,提示被切分的方式会直接影响生成响应的质量。

课程建议通过在线 Tokenizer 工具(例如 OpenAI Tokenizer)直观感受这一过程:把提示复制进去,观察它如何被转换为令牌,特别留意空格字符与标点符号的处理方式。需要说明的是,示例工具基于较老的 GPT-3 模型,用更新模型尝试可能得到不同结果。

你还可以直接在仓库中运行 Python 版的令牌化实验——04-prompt-engineering-fundamentals/python/oai-assignment.ipynb 的 Exercise 1 使用 OpenAI 开源的分词库 tiktoken,对“木星”段落进行编码与解码:

import tiktoken

text = f"""
Jupiter is the fifth planet from the Sun and the
largest in the Solar System. ...(课程示例文本)
"""

# 为指定模型获取编码器
encoding = tiktoken.encoding_for_model("gpt-4o")

# 编码:得到令牌的整数形式
tokens = encoding.encode(text)
print(tokens)

# 解码:查看每个令牌对应的文本片段
[encoding.decode_single_token_bytes(token) for token in tokens]

通过对比 encoding.encode 前后的结果,你可以亲眼看到整段英文如何被拆分为一个个令牌,从而建立对“提示长度=令牌数”的直觉——这也直接关系到后文将提到的成本与上下文窗口限制。

基础模型:预测下一个令牌

当提示完成令牌化后,基础模型(Foundation Model) 的核心职能就是预测序列中的下一个令牌。由于 LLM 在海量文本语料上训练,它掌握了令牌之间的统计关系,能带着一定的置信度做出预测。需要特别强调的是:模型并不“理解”提示中词汇的 含义,它只是识别出一种可以“补全”的模式,并持续预测下去,直到用户干预或满足预设的终止条件。

课程演示了在 Playground 中提交“Oh say can you see”(美国国歌歌词开头)这类提示时,模型会基于补全行为自动续写出后续歌词——这正是基础预测行为的典型体现。在仓库配套 Notebook 的 Exercise 2 中,同样用 oh say can you see 验证 API 链路:正确配置后,响应应大致补全为 by the dawn's early light.. 之类的歌词内容。

指令调优模型:从“补全”到“执行任务”

指令调优模型(Instruction-Tuned LLM) 以基础模型为起点,通过大量输入/输出对(例如多轮“消息”)进行微调,其中包含明确的指令,模型的回答会努力遵循这些指令。这一过程常采用 RLHF(基于人类反馈的强化学习),使模型学会 遵循指令 并从反馈中 学习,从而产出更贴近实际应用、更契合用户目标的响应。

课程的对比实验极具说服力:对同一段内容,如果系统消息不设置任何约束,模型给出的是一段泛泛的总结;而把系统消息改为:

把提供给你的内容总结给一名二年级学生。结果保持在一段话内,包含 3-5 个要点。

响应立刻变成了目标明确、格式受控的版本——教育工作者可以直接把这段结果放进课堂幻灯片。这种“改系统消息即改输出质量”的体验,正是提示工程价值的直观证明。

为什么需要提示工程:三大挑战

知道了模型如何处理提示之后,课程进一步回答了“为什么需要提示工程”:

  1. 模型响应是随机的(随机性):同一个提示在不同模型、不同模型版本之间会得到不同响应;即便 同一个模型,在不同时刻也可能给出不同结果。提示工程技术(如更完善的护栏、明确的格式约束)可以帮助最小化这种波动。
  2. 模型可能编造内容(Fabrication):模型在 庞大但有限 的训练数据集上预训练,对训练范围之外的概念缺乏知识,可能产出不准确、凭空想象甚至与已知事实矛盾的“补全”。提示工程技术(例如要求给出引用或推理过程)能帮助用户识别并缓解这类编造。
  3. 模型能力参差不齐:新一代模型功能更强,但也会带来独有的怪癖、成本与复杂度的权衡。提示工程可以帮助沉淀最佳实践与工作流,以可扩展、平滑的方式屏蔽差异、适配具体模型的特殊要求。

课程的配套练习还鼓励你把同一提示分别投向不同部署(如 OpenAI、Azure OpenAI、Hugging Face),观察差异;或在 同一 部署上反复提交同一提示,观察波动——这两组对照实验能让你切身体会随机性对一致性的影响。

编造(Fabrication)示例

课程刻意使用 “编造(Fabrication)” 而非流行的“幻觉(Hallucination)”一词,理由是:不应把类人的行为特征错误地归因于机器驱动的结果,这同时也符合负责任 AI 在术语层面的指引。示例提示是:

提示: 为 2076 年火星战争生成一份教案。

网页搜索显示确实存在关于火星战争的虚构作品(如剧集、书籍),但没有 2076 年这一时间点;常识也告诉我们 2076 年 在未来,不可能对应真实事件。那么不同提供商会发生什么?

  • OpenAI Playground(GPT-35):给出了某种回应;
  • Azure OpenAI Playground(GPT-35):给出了另一种回应;
  • Hugging Face Chat Playground(LLaMA-2):又是一种回应。

正如课程指出的:每个模型(或模型版本)因随机行为与能力差异,产出了略有不同的回答——例如一个模型面向八年级学生,另一个则假设用户是高中生——但三者都可能让不知情的用户误以为该事件真实存在。这正是“编造”的危害所在。缓解手段包括 元提示(Metaprompting)、温度(temperature)配置,以及把新工具与技术无缝融入提示流的提示工程架构。

案例研究:GitHub Copilot 的提示工程演进

课程以 GitHub Copilot 作为现实案例收尾这一节:Copilot 是“AI 结对程序员”,把文本提示转换为代码补全并集成进开发环境(如 VS Code)。最初版本基于 OpenAI Codex 模型,工程师们很快意识到需要微调模型、发展更好的提示工程技术来提升代码质量;2023 年 7 月,Copilot 换用了超越 Codex 的改进模型以获得更快的建议。GitHub 工程博客记录了这段学习旅程,展示了提示工程在真实产品中的持续演进。

提示的构建:从基础到指令

理解了“为什么”,接下来是“怎么构建”。课程把提示构建拆解为递进的三层。

基础提示(Basic Prompt)

基础提示是没有任何额外上下文的纯文本输入。例如向 Completion API 发送美国国歌开头的几个词,模型立即“补全”出后续歌词:

提示(输入) 补全(输出)
Oh say can you see 听起来你在输入“The Star-Spangled Banner”(美国国歌)的歌词,完整歌词是……

这演示了模型最基础的预测行为。仓库中 06-text-generation-apps 的示例代码(python/oai-app.py)同样演示了这一行为:

from openai import OpenAI
from dotenv import load_dotenv

load_dotenv()                      # 从 .env 加载环境变量
client = OpenAI()
deployment = "gpt-4o-mini"

prompt = "Complete the following: Once upon a time there was a"
response = client.responses.create(model=deployment, input=prompt, store=False)
print(response.output_text)

复杂提示(Complex Prompt)

复杂提示通过 Chat Completion API 把提示构建为一组 消息:

  • 输入/输出对:反映用户的 输入 与助手的 响应;
  • 系统消息(System Message):设定助手的行为或人格上下文。

此时请求呈现为多轮会话的形式,令牌化能够有效捕获上下文与会话中的相关信息。课程示例(在英文原版中)如下:

response = openai.chat.completions.create(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Who won the world series in 2020?"},
        {"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},
        {"role": "user", "content": "Where was it played?"}
    ]
)

仓库中与此对应的现代实现见 04-prompt-engineering-fundamentals/python/oai-assignment.ipynb 的 Exercise 5,它改用 Responses API 并设置了“sarcastic(刻薄)”风格的助手人格,你完全可以替换成其他人格或换一组输入/输出消息继续实验:

response = client.responses.create(
    model=deployment,
    input=[
        {"role": "system", "content": "You are a sarcastic assistant."},
        {"role": "user", "content": "Who won the world series in 2020?"},
        {"role": "assistant", "content": "Who do you think won? The Los Angeles Dodgers of course."},
        {"role": "user", "content": "Where was it played?"}
    ],
    store=False,
)
print(response.output_text)

修改系统上下文与修改用户输入一样,都可能对补全质量产生显著影响。

指令提示(Instruction Prompt)

前面示例中的用户提示是可被理解为“信息请求”的简单问句;而 指令提示 用文本把任务描述得更具体,给 AI 提供更好的引导。课程用“描述美国内战”做了三档对比:

提示(输入) 补全(输出) 指令类型
写一段对美国内战的描述 返回一段简单段落 简单
写一段对美国内战的描述。给出关键日期与事件,并说明其意义 返回一段落,随后是带描述的关键事件日期列表 复杂
用 1 段写一段对美国内战的描述。给出 3 个带关键日期及其意义的要点。再给出 3 个带关键历史人物及其贡献的要点。以 JSON 文件格式返回输出 返回更详细的内容,按 JSON 排版,可直接复制到文件中按需校验 复杂、格式化

可以看到:指令越具体(明确长度、要点数量、格式),输出的结构与可用性就越强。

主要内容(Primary Content):指令与内容分离

在上面的例子中,提示仍然相当开放,模型可以自行决定其预训练数据中的哪部分相关。而 主要内容 设计模式把输入文本拆成两部分:

  • 指令(Instruction):要执行的动作;
  • 相关内容(Relevant Content):影响该动作的内容。

例如课程给出“用两句话总结下面这段”的木星文本示例:模型按照指令把整段木星介绍压缩为两句精炼的总结。主要内容可以多种方式驱动更有效的指令:

  • 示例(Examples):不用显式指令告诉模型做什么,而是给出示例让它自行推断模式;
  • 线索(Cues):在指令后附加一个“线索”来预热补全,引导模型给出更相关的响应;
  • 模板(Templates):可重复使用的“配方”,用占位符(变量)承载数据,适配特定用例。

使用示例:零样本、单样本与少样本

这是利用主要内容“喂给模型”期望输出的若干示例,让模型推断输出模式的思路。根据示例数量分为 zero-shot、one-shot、few-shot 提示:

学习类型 提示(输入) 补全(输出)
Zero-shot “太阳在照耀。”翻译成西班牙语 “El Sol está brillando”。
One-shot “太阳在照耀” ⇒ “El Sol está brillando”。
“这是一个寒冷多风的日子” ⇒
“Es un día frío y ventoso”。
Few-shot 球员跑垒 ⇒ 棒球
球员打出 ace ⇒ 网球
球员打出六分 ⇒ 板球
球员完成扣篮 ⇒
篮球

注意:zero-shot 需要显式给出指令(“翻译成西班牙语”),而 one-shot 中该指令被自动推断;few-shot 例子则说明,增加示例数量可以让模型在 没有额外指令 的情况下做出更准确的推断。在配套 Notebook 的“探索直觉”练习中,你可以基于这些模式自行设计新的简单/复杂/指令提示。

提示线索(Prompt Cues)

另一种使用主要内容的技术是提供 线索 而非示例:给模型一段能反映期望响应格式的开头,模型就会“接过话头”继续下去。课程用同一段木星文本做了 0/1/2 个线索的对比:

线索数 提示(输入) 补全(输出)
0 …(木星文本)
总结这段话
木星是太阳系中最大的行星……
1 …(木星文本)
总结这段话
我们学到的是木星
是离太阳第五近、太阳系最大的行星……
2 …(木星文本)
总结这段话
我们学到的 3 个要点:
1. 木星是……
2. 它是一颗气态巨行星……
3. 木星自古以来……

线索数量从 0 到 2,输出从普通段落逐渐变成带编号的要点列表——一个简单的开头短语就能把模型“推”向期望的输出结构。

提示模板(Prompt Templates)

提示模板 是预先定义好、可存储并反复使用的“提示配方”,用于规模化地驱动一致的用户体验。最简单的形式是一组提示示例集合(例如 OpenAI 提供的提示指南),它同时提供交互式提示组件(用户/系统消息)与 API 驱动的请求格式以支持复用。更复杂的形式(如 LangChain 的提示模板)则包含 占位符,可被来自各种来源的数据(用户输入、系统上下文、外部数据源等)替换,从而动态生成提示——这让你能够以 编程方式 规模化地创建可复用提示库。

模板的真正价值在于为垂直应用领域创建并发布 提示库(Prompt Libraries):模板针对应用特定的上下文或示例做了优化,使响应更贴合目标受众。课程重点提及的 Prompts For Education 就是这一思路的典型实践——它由教育专家策展,聚焦教案规划、课程设计、学生辅导等核心目标。

次要内容(Secondary Content):影响输出的附加上下文

如果把提示构建看作“指令(任务)+主要内容(核心素材)”,那么 次要内容 就是为 以某种方式影响输出 而提供的额外上下文:可以是调优参数、格式说明、主题分类法(taxonomy)等,帮助模型 定制 响应以契合用户目标或期望。

课程举了一个课程目录的例子:给定一份带丰富元数据(名称、描述、级别、元标签、讲师等)的课程目录:

  • 定义指令“总结 2023 年秋季课程目录”;
  • 用主要内容提供几个期望输出的示例;
  • 用次要内容指明最关心的 5 个“标签”。

于是模型可以按示例展示的格式给出总结——而当某条结果有多个标签时,它会优先呈现次要内容中指定的 5 个标签。这是一个“指令+主要内容+次要内容”三者协同的典型结构。

提示最佳实践:心态与技巧

提示工程心态

提示工程是试错过程,课程建议把握三个宏观指导因素:

  1. 领域理解很重要:响应的准确性与相关性是 应用/用户所处领域 的函数。应运用领域直觉与专业知识进一步 定制 技术——例如在系统提示中定义 领域专属人格、在用户提示中使用 领域专属模板、提供反映领域上下文的次要内容,或用 领域专属线索与示例 引导模型走向熟悉的用法模式。
  2. 模型理解很重要:模型本质上具有随机性,且不同实现之间还可能在训练数据集(预训练知识)、提供的能力(API/SDK)、优化的内容类型(代码 vs 图像 vs 文本)上存在差异。理解所用模型的强项与局限,据此 排定任务优先级 或构建 定制模板。
  3. 迭代与验证很重要:模型与提示工程技术都在快速演进。作为领域专家,你的应用可能有独特的上下文或标准。先用工具与技术“启动”提示构建,再用自己的直觉与领域知识迭代验证;记录洞见、沉淀 知识库(例如提示库),为他人提供新基线、加速后续迭代。

OpenAI / Azure OpenAI 推荐的最佳实践清单

做法 为什么
评估最新模型 新一代模型通常功能与质量更好,但也可能成本更高。评估影响后再决定是否迁移。
区分指令与上下文 检查模型/提供商是否定义了 分隔符 来更清晰地区分指令、主要内容与次要内容,这有助于模型更准确地为令牌分配权重。
具体且清晰 给出关于期望上下文、结果、长度、格式、风格等的更多细节,既能提升质量也能提升一致性;把配方沉淀到可复用模板中。
描述性+使用示例 模型对“展示与讲述”式方法响应更好。先从 zero-shot(给指令但无示例)开始,再用 few-shot 精化(提供几个期望输出的示例)。善用类比。
用线索启动补全 用几个引导词或短语“推”模型一把,作为响应的起点。
双重强化(Double Down) 有时需要向模型重复指令:在主要内容前后都给出指令、指令与线索并用等。迭代验证找出有效组合。
顺序很重要 信息呈现顺序可能影响输出,甚至在学习示例中也会因近因偏差(recency bias)而起作用。多试几种顺序。
给模型一条“退路” 提供一条 回退补全 响应,供模型在无法完成任务时使用,以降低产生虚假或编造响应的概率。

与任何最佳实践一样,结果会因模型、任务与领域而异:把这些当作起点,迭代出最适合自己的方案,并在新模型与新工具出现时定期重新评估,始终关注流程可扩展性与响应质量。

动手实践:在 Jupyter Notebook 沙箱中验证技术

学习沙箱环境

提示工程目前仍是“艺术多于科学”,提升直觉的最好方式是 多练习,采用结合领域专长、推荐技术与模型特定优化的试错方法。课程配套的 Jupyter Notebook(04-prompt-engineering-fundamentals/python/oai-assignment.ipynb)提供了这样的沙箱环境,涵盖令牌化(Exercise 1)、API 链路验证(Exercise 2)、编造现象(Exercise 3)、指令式提示(Exercise 4)、复杂提示/人格设定(Exercise 5)等循序渐进的练习。运行需要:

  1. Azure OpenAI API Key:已部署 LLM 的服务端点;
  2. Python 运行环境:可执行 Notebook 的环境;
  3. 本地环境变量:按 本地环境安装指南 完成配置。

Notebook 自带 入门级 练习,但课程强烈建议你自行添加 Markdown(描述)与 Code(提示请求)单元格,尝试更多示例与想法,逐步建立提示设计的直觉。

配置环境变量

仓库共享模块 shared/python/env_utils.py 提供了标准化的环境变量读取与校验工具:get_required_env 在变量缺失或为空时抛出带提示信息的 ValueError,validate_env_vars 可批量校验多个变量,get_env_with_default 则为可选变量提供默认值。配套测试 tests/test_env_utils.py 覆盖了缺失、空值、批量校验与默认值等场景,可作为你配置脚本的参考。共享模块 shared/python/api_utils.py 中的 create_azure_openai_client 会从 AZURE_OPENAI_ENDPOINT 与 AZURE_OPENAI_API_KEY 读取凭据,并自动拼接 <endpoint>/openai/v1/ 端点来创建客户端。

作业环节(Assignment)的操作路径如下:

  1. Fork 仓库,然后(推荐)启动 GitHub Codespaces;或克隆到本地配合 Docker Desktop 使用;或直接用你偏好的 Notebook 运行环境打开。
  2. 配置环境变量:复制仓库根目录的 .env.copy 为 .env,填入 AZURE_OPENAI_API_KEY、AZURE_OPENAI_ENDPOINT 与 AZURE_OPENAI_DEPLOYMENT 的值(Azure 路线),或按 本地环境安装指南 中的 .env 创建步骤配置 AZURE_INFERENCE_ENDPOINT 与 AZURE_INFERENCE_CREDENTIAL(Microsoft Foundry 路线),并安装 python-dotenv 以便在脚本中加载。
  3. 打开 Jupyter Notebook:选择运行内核——若使用前两种方式,直接选择开发容器提供的默认 Python 3.10.x 内核即可。

准备好后即可运行练习。课程特别提醒:这里没有 标准答案,只有通过试错探索“什么对给定模型与应用领域有效”的过程;因此本课不提供“代码解答”段落,Notebook 会以标题为 “My Solution:” 的 Markdown 单元格展示一个示例输出供参考。

知识检验与挑战

知识检验:以下哪个提示遵循了合理的最佳实践?

  1. 给我看一张红色汽车图片
  2. 给我看一张沃尔沃 XC90 红色汽车停在海边悬崖、夕阳西下的图片
  3. 给我看一张沃尔沃 XC90 红色汽车图片

答案:选项 2。 它在“是什么”之外提供了具体细节(不止任何汽车,而是特定品牌与型号),还描述了整体环境;选项 3 次之,因为它的描述也很丰富。

挑战:试试用“线索”技术完成这个提示——补全句子“给我看一张红色沃尔沃汽车的图片,”。观察模型如何回应,以及你会如何改进它?

进一步学习

本课内容是第 5 课 高级提示技术 的铺垫,继续学习可前往 05-advanced-prompts,那里将探讨更进阶的提示工程技术。整套课程沿 21 课从提示工程、文本生成应用、聊天应用一直延伸到函数调用、RAG 与 AI Agent 等主题,可在 README 总览中规划学习路线。

登录后查看全文
generative-ai-for-beginners