跳到主要内容

给它它本来没有的东西 — 例子、身份、外部资料

这一章讲三件事: 例子为什么管用(答案很反常识)、 「你是一名专家」这句话到底有没有用(有,但不是你以为的那种用)、 以及怎么让它用上它压根没学过的信息。 这一章还要当场纠正全书最严重的一处错误: 书里有一节把学术界一个完全不相干的东西 讲成了写提示词的技巧,按书里那样去搜,你会掉进一个完全不同的领域。

1. 先看现象:它不知道你公司的事

你让它写一封给客户的邮件,它写得挺顺,但——

  • 它不知道你们产品叫什么;
  • 它不知道你们邮件一贯的口气;
  • 它不知道你们上个月刚改过退款政策。

这三件事缺的不是同一样东西,补的办法也不一样。这一章就是讲这三条通道。

而且这封信会一直跟着你读到本章结束: 3.1、3.3、3.5 三节各补一条通道, 补的都是这同一封信,每一步都会写出具体的字串。

2. 顶层全景:三条通道,都只改变「它这一次看到什么」

先把这一章的机制怎么转说成一条链子:

你的一次提问 → 加例子(改它照抄的形式)/ 加身份(改它取用哪一片说法)/ 加资料(改它手上有哪些事实)→ 同一台模型、同一批参数,吐出不同的回答。

┌──────────────────────────────────────────────────────────┐
│ 它缺什么 补什么 这一章第几节 │
├──────────────────────────────────────────────────────────┤
│ 不知道你要什么样子 给几个例子 3.1 │
│ 用错了口气和深浅 给它一个身份 3.3 / 3.4 │
│ 不知道你们家的事实 把资料贴给它 3.5 │
└──────────────────────────────────────────────────────────┘

图说:三条通道都在第 01 章那条分界线的下半截 ——
它们改变的是「这一次它看到什么」,永远改不了「它学过什么」。
所以三条都不需要训练,你打完字按回车就生效了。

3. 核心原理

3.1 少样本:给它几个例子

它解决什么问题: 有些要求你说不清,但你能拿出样品。

书的描述是:给少量例子,引导 AI 理解想要的输出风格、结构或语气1。 它给的例子很干净:先给两句现成的产品描述,再让它照着给第三个产品写2

这个做法的正式名字叫「少样本提示」(英文 few-shot prompting)。 它和两个兄弟一起构成一组必须一次说清的词:

叫法你给了几个例子长什么样
零样本0 个「把这句话翻成法语:今天天气很好」
单样本1 个先给一句中译法的样例,再给要翻的那句
少样本通常 2 到 5 个给几句样例,再给要翻的那句

这三个词里的「样本」,指的就是你写在提示词里的例子。 书从头到尾没有定义过「零样本」,但这是提示工程里最常用的对照面—— 你不给例子直接问,那就是零样本,而你平时的绝大多数用法都是零样本。

为什么有效:这里有一件必须先说清楚的事。

补充(不在书里): 这套叫法出自 2020 年的一篇论文,讲的是 GPT(OpenAI 那一系列模型的名字,编号越大越新)的第三代——GPT-3,ChatGPT 的前身。 论文里最关键的一句话是:所有任务都「不做任何参数更新、也不做微调」3—— 换成大白话:你给的例子没有在训练它,模型里的数一个都没动。

这一点非常反直觉,但它是理解本章的钥匙:

你以为发生的: 给例子 → 它「学会」了 → 以后就会了
实际发生的: 给例子 → 它这一次照着接下去写 → 下一次对话它什么都不记得

图说:例子不是教材,是模板。它做的还是第 01 章那件事 ——
接着往下写像样的东西,而你给的例子决定了「像什么」。

主走查,第一条通道:给第 1 节那封信两条旧邮件当例子。

那封信的第一个缺口是「它不知道我们邮件一贯的口气」。补法就是把两条旧的贴过去:

<旧邮件1>
王先生您好,您 3 月 2 日那台 M2 磨豆机我们已经收到退货了。
退款 1,280 元会在 3 个工作日内原路退回。给您添麻烦了。
</旧邮件1>

<旧邮件2>
李女士您好,您 4 月 11 日那台 M2 磨豆机的滤网今天已经寄出,单号 SF7391。
旧的不用寄回,直接换上就行。
</旧邮件2>

照上面两条的写法,给张先生回一封:
他 5 月 6 日买的 M2 磨豆机,用了 10 天不出粉。

它照着产出的第三条:

张先生您好,您 5 月 6 日那台 M2 磨豆机不出粉的情况我们记下了。
这边会尽快为您处理,给您添麻烦了。

盯住它抄走了什么: 称呼格式(姓 + 先生/女士 +「您好」)、 第二句必带日期和型号、末句一句短道歉、全篇不超过三行。 这四样你一条都没有用文字要求过——它们全是从那两条例子的形式里抄走的。

而它没抄走的是:该不该给张先生退款。 两条例子给了两种处置(一条退款、一条换件),而它手上没有任何依据判断该用哪一种, 于是含糊成了「会尽快为您处理」。 这正是后面两条通道要补的东西。

3.2 一个反常识的实验:例子里的答案错了也没关系

补充(不在书里): 2022 年一篇论文做了个刁钻的实验—— 把少样本例子里的答案随机打乱(也就是故意标错),再看效果掉多少。 结果是:几乎不掉。

论文的结论是:例子起作用的地方不在「答案对不对」, 而在告诉模型答案的取值范围有哪些、输入长什么样、整体格式是什么4

这条发现直接改写了「怎么写例子」的优先级:

你以为该花力气的地方实际该花力气的地方
确保每个例子的答案都精确正确确保格式统一、每个例子长得一模一样
挑最典型的例子挑覆盖面广的例子(把各种情况都露一手)
例子越多越好2 到 5 个,并且别让某一类占多数

最后一条要展开说。 书提醒过「例子太多会限制 AI 的发挥」5, 理由说得不对,但结论是对的。更实在的两个理由:

  • 例子占长度。 五个长例子可能就吃掉了几千个标记,把真正的材料挤出去;
  • 例子会带偏。 你给的三个例子都是长回答,它就再也不会给你短回答了。 这就是书在另一处用的那个词:过度拟合——为一种情况调得太好,换个情况就崩6

3.3 给它一个身份:「你是一名理财顾问」

它解决什么问题: 同一个问题,面向新手和面向同行,答案该长得不一样。

书对这一条非常热心,在两个地方各讲了一遍: 一处叫「专家提示」,说让 AI 以某领域专家的身份回答,能得到权威且详细的答案7; 一处在建议清单里,说让它扮演一个角色能得到更贴合的回答8

但这里有一个不小的落差,书没提:

补充(不在书里): 2023 年一篇论文专门测了这件事,标题就是结论—— 《当「一个乐于助人的助手」其实并不助人:系统提示词里的身份设定不能提升模型表现》。 它测下来:加身份设定,在一批问答任务上并没有比不加更准; 而且「自动挑一个最好的身份」和随机挑没有区别9

判断(我们的,不是书里的): 这不代表角色扮演没用,而是它的用处被搞错了。

你想要什么角色扮演管不管用
答得更准不管用(上面那篇论文的结论)
换一套词汇和深浅管用,而且这才是它真正的作用
换一种口气管用
限定视角(「只从法务角度看这份合同」)管用,它其实是在做筛选

说白了:身份设定动的是「用哪一片语料(就是训练时喂给它的那一大堆文字)的说法」, 不是「答对答错」。

(说「一片」的意思是:医生写的东西和市场部写的东西,在训练材料里长得不一样; 「你是一名医生」这句话把它推向了前一片。)

如果错,会错在: 如果某个模型确实被专门训练成「见到身份设定就切换到更严谨的模式」, 那身份设定就真的能提准确率——判据是:同一批题,加与不加各跑一次,对比正确率。

所以正确的写法是:把身份当成「说话方式」的开关,而不是「智商」的开关。

别指望该这么用
「你是世界顶级专家,请给出最准确的答案」「读者是不懂技术的门店店长,专业词一律换成大白话」
「你是资深律师」(以为它就不会出错了)「只指出合同里对我方不利的条款,其他不用说」

注意右边那两条其实就是第 02 章的②背景和⑤分寸—— 身份设定是它们的一种简写,不是一样新东西。

主走查,第二条通道:给那封回信一个身份。

还是给张先生那封信,前面加一句「你是我们的客服主管」,前后对着看那一句关键的话:

它写出来的那一句
不加身份「关于能否退货,建议您联系客服了解退换货政策。」
加「你是我们的客服主管」「这台机器还在 15 天无理由期内,我可以直接为您办退。」

差别不在「更准」,在「谁在说话」。 不加身份时它站在旁观者的位置,把事推给「客服」; 加了之后它站到了能拍板的位置,句式从「建议您联系」变成了「我可以直接为您办」。

但请盯住那句话里的「15 天无理由」——这四个字是它编的。 身份设定一条你们家的政策都没给它,它只是换了个口气去猜。 要它不猜,得走第三条通道。

3.4 用这一行的术语说话

书单列了一节,说用行业专用术语能提高回答的相关性和准确性10, 例子是「解释云原生应用里 Kubernetes 的 pod 扩缩容」11

这一条和上一条是同一个机制,只是从另一头做:

身份设定: 「你是一名 Kubernetes 运维」 → 把它推向那一片语料
行业术语: 直接用「pod 扩缩容」这些词 → 也是把它推向那一片语料

图说:两条路殊途同归。区别是后者更精确 —— 术语本身就是最强的定位信号。

判断(我们的,不是书里的): 要把它推向某一片内容, 用对术语比说「你是专家」更靠得住。 理由在定位精度:术语是那一片内容里真会出现的字; 而「你是专家」这四个字,跟着什么内容都出现过,它几乎不带定位信息。

但这是个从机制推出来的判断,不是测出来的结论。 上一节那篇论文只证明了「加身份不提准确率」,没有人把这两种写法放在一起比过。 如果错,会错在: 如果同一批题上「加术语」和「加身份」各跑一遍, 分数的差别小到跟「同一种写法跑两遍」的正常上下浮动一样大,那这条就只是听起来合理。 判据就是这么跑一次——第 07 章会给出这批题该怎么攒。

反过来也成立,而且更重要:你不知道术语的时候,别硬编一个。 编错的术语会把它推向一片完全无关的内容。这时候老老实实描述现象更好。

3.5 检索增强:把它没学过的资料贴给它

这是本章最重要的一节,也是书写得最薄的一节。

它解决什么问题: 前面所有办法都改不了「它不知道你们公司上个月改了退款政策」。 因为那件事发生在它训练之后,或者根本就不在公开数据里。

怎么做,一句话:

检索增强生成:先去你自己的资料库里找出相关的几段, 把它们和问题一起贴进提示词,让它照着这些资料回答。 英文是 retrieval-augmented generation,缩写 RAG——后文一律用这个缩写。

书对它的描述是:把实时的资料检索和文字生成结合起来, 让 AI 取来外部信息,再放进回答里12。 这个描述是对的:先检索,后生成,两步缺一不可。

外部信息从哪里取? 书列了三个地方:数据库、文章, 或者接口(也就是第 01 章说过的 API——一个程序留给另一个程序调用的入口)。

为什么有效,一张图说完:

① 事先:把你的文档切成一段一段,存起来

② 用户问了一个问题

③ 拿问题去库里找出最相关的那几段 ← 这一步是「检索」

④ 把这几段 + 问题拼成一条提示词 ← 这一步是「增强」

⑤ 让模型照着这几段回答 ← 这一步是「生成」

图说:模型没有变聪明,也没有多学任何东西 ——
它只是在读一份你刚刚递到它眼前的材料。

它的来历也值得知道,书没说:

补充(不在书里):RAG 不是 2023 年的新东西,它出自 2020 年 5 月的一篇论文, 比 ChatGPT 早两年半。论文要解决的问题是:大模型把知识存在自己的参数里, 但「取用和精确操作这些知识的能力仍然有限」13

这句话值得停一下。它和第 01 章那句「学的是词与词的关系,不是一张事实清单」是同一件事。 RAG 的全部意义,就是给它配一张真的事实清单。

书对 RAG 只写了六行,漏掉了四件今天做这件事必须知道的:

书没讲的为什么要紧
怎么切段切得太碎,一段里没有完整意思;切得太粗,塞不进去也不精准。这是 RAG 最影响效果的一步
怎么算「相关」不是关键词匹配。通常是把每段文字变成一串数字,再找和问题那串数字最接近的几段(这串数字叫嵌入,意思相近的文字数字也相近)
检索会失败你的库里根本没有答案时,模型往往不说「查不到」,而是照样编一个
贴进去的资料是不可信输入资料里如果藏着指令,模型可能照做——这正是第 06 章那个头号安全问题

书倒是给了一条很实在的建议:在提示词里指定它该参考什么类型的来源 (行业报告、学术论文之类)14,并且用完要核对相关性15

判断(我们的,不是书里的): RAG 最容易被误解的一点是 「有了 RAG 就不会胡说了」——这是错的。 RAG 做的是把它编造的空间缩小到「你给的这几段材料」以内, 它仍然可能把材料读错、把两段材料拼错、或者在材料没覆盖的地方接着编。 唯一能查的办法是:要求它每句结论都标出处,然后你抽查那个出处。 如果错,会错在: 如果某套系统能在「材料里没有答案」时可靠地说「查不到」, 那这条警告就降级成一句多余的谨慎——判据是:故意问一个库里没有的问题,看它认不认。

主走查,第三条通道:把退款政策真的贴进去。

这是三条通道里唯一能解决「它不知道你们家的事实」的那一条。整条走一遍:

① 你的政策原文(存在一个文档里,一共 8 段,这里摘写到的那三段):

第 2 段:自签收之日起 15 日内,非人为损坏可申请全额退款,运费由我方承担。
第 5 段:小型家电中,磨豆机、手冲壶不适用 15 日无理由,仅在功能故障时可退。
第 7 段:退款到账时间为收到退货后 3 个工作日内,原路退回。

② 拿张先生那句话去库里检索(「5 月 6 日买的 M2 磨豆机,用了 10 天不出粉」)。 排在前面的是第 5 段和第 2 段:

相似度为什么排到这个位置
第 5 段0.81「磨豆机」「功能故障」两处直接对上
第 2 段0.74「15 日内」对上了「用了 10 天」
第 7 段0.42讲的是到账时间,和「能不能退」不是一件事,没进前二,不会被贴进去

③ 拼好的那条提示词长这样(注意它把前两条通道也一起用上了):

<政策>
第 2 段:自签收之日起 15 日内,非人为损坏可申请全额退款,运费由我方承担。
第 5 段:小型家电中,磨豆机、手冲壶不适用 15 日无理由,仅在功能故障时可退。
</政策>

照 <旧邮件1> <旧邮件2> 的写法回信。
只依据 <政策> 里的内容判断能不能退,涉及政策的每一句后面标出它来自第几段。
政策里没写的,写「这一点我需要再确认」,不要推测。

张先生 5 月 6 日买的 M2 磨豆机,用了 10 天不出粉。

④ 它的回信里,这一句是从材料里来的:

张先生您好,您 5 月 6 日那台 M2 磨豆机不出粉属于功能故障,
在签收 15 日内可以退,运费我们承担(依据第 2 段、第 5 段)。

和上一条通道对着看: 那里它编了一句「15 天无理由」, 而政策第 5 段写得清清楚楚——磨豆机恰恰不适用无理由,只在功能故障时可退。 两句话的结论碰巧一样,理由完全不同。 要是张先生只是「买回来觉得不好看」,上一条通道会照样给他退,这一条会拒。

这就是三条通道最要紧的分工: 例子决定它长什么样,身份决定它用什么口气说,只有资料决定它说的对不对。

(这条走查里的相似度 0.81 / 0.74 / 0.42、政策条文、单号 SF7391、 型号 M2、金额 1,280 元,全都是为演示编的,不是真实数值, 也不是任何一家真实的退款政策。)

3.6 「上下文感知」:其实就是把该带的带上

书单列了一节,说把相关背景、之前的对话、用户偏好放进提示词里, 能让回答更连贯、更贴合16,还建议用一种叫会话标识的手段维持多轮上下文17

先说清「会话」:就是从你打开一段对话到关掉它的那一整段。 所谓会话标识,就是给每一段这样的对话编一个号,好把同一段里的记录归到一起。

这一节讲的不是一样新东西。 拆开看是两件已经讲过的事:

  • 手打对话的人:就是第 02 章的②背景——把它猜不到的都写上;
  • 做产品的人:就是「每一轮该往提示词里塞哪些历史」这个工程问题。

后者才是真问题,而书只写了一句「用会话标识」就过去了。 补三句实在的:

做法什么时候用
全带上对话短、成本不敏感。最简单,也最快撞上长度上限
只带最近几轮大多数聊天产品的默认做法
带一份滚动摘要长对话。每隔几轮让模型把前面压成一段摘要,后面只带摘要

别忘了第 01 章那件事:所谓「它记得」,永远是「你又重新念了一遍给它听」。

3.7 多模态:给它看图

书说多模态提示把文字、图片、音频结合起来,例子是「分析这张机械零件的照片, 给出一份维修指南」18

多模态就是「不只是文字」——图片、音频、视频都能当输入。

这一节内容很少,但它暴露了书的一处自相矛盾: 第 3 章把多模态当成一种现在就能用的技巧,第 2 章却把它列进了「未来趋势」19两处都在同一本书里。

实用的一条(书没说):图片是很贵的输入,而且贵得有具体口径可查。

补充(不在书里): 各家都把图片折算成标记来计费。 Anthropic 官方文档给的口径是:把图按 28×28 像素切成小块,一块算一个「视觉标记」, 所以一张图 = ⌈宽÷28⌉ × ⌈高÷28⌉ 个标记。 一张 1000×1000 的图折算下来是 1296 个标记——常常比你打的那段问题本身还长; 太大的图会先被等比缩小,标准那一档最多算到 1568 个20

而且它读图的精细程度远不如读字——能用文字说清的,别拿图让它猜。

4. 全书最需要当场纠正的一处:CoOp 和 CoCoOp

先说清「优化」:在这一行,它指的是「反复调、拿分数比一比、留下最好的那一版」, 不是日常说的「顺手改进一下」。真正靠这件事吃饭的那一整套做法在第 05 章。

书里有一节叫「上下文优化技巧(CoOp 和 CoCoOp)」,说它们 通过动态调整提示词里给的上下文来微调 AI 的回答

具体说法是:CoOp 提供「上下文标记」帮模型更好理解用户意图, CoCoOp 在 CoOp 基础上能按不同上下文动态适应21。 配的例子是:「基于我之前关于数字营销的对话,给我三条获客策略。」22

这一节从头到尾是错的。

CoOp 和 CoCoOp 是学术界两个真实存在的方法,但它们和「怎么写提示词」没有关系。

书里说的它们实际是什么(我们核对了原论文)
用在哪你和聊天机器人对话看图的模型(图文配对模型 CLIP 那一类),不是聊天
「上下文」指什么你提供的背景信息一串可以训练的数字,不是人能读的文字
谁来定你手写用带标注(人事先标好正确答案)的数据训练出来的
改不改模型不改要训练(只训练那串数字,模型本体冻住)
出处书没给CoOp:2021 年 9 月23;CoCoOp:2022 年 3 月24,同一组作者
CoCoOp 解决什么「动态适应不同场景」修 CoOp 的过度拟合:CoOp 学出来的那串数字换到没见过的类别上就不好使了25

为什么必须专门纠正这一处:

读者看到书里这一节 → 觉得「这是个我该学的提示词技巧」
→ 去搜 CoOp
→ 搜到一堆看图模型的论文,全是训练代码和数学
→ 要么以为自己太笨,要么以为搜错了

图说:一个张冠李戴的术语,比一句含糊的话有害得多 ——
含糊的话读者会跳过,错的术语读者会去查,然后浪费一下午。

判断(我们的,不是书里的): 这一处不是「讲得浅」,是名实不符它的错法很典型:书里的描述其实是在讲「把背景信息写进提示词」 ——那件事是真的,而且有用,只是它不叫 CoOp。 所以正确的读法是:保留那一节的建议,扔掉那两个名字。 建议本身已经在第 02 章的②背景和本章 3.6 里讲过了,你不缺这一节。 如果错,会错在: 如果这两个缩写在某个我们没查到的圈子里确实另有一套 「写提示词」的含义,那这就是同名不同义而非错误—— 但我们查了原论文,两篇的作者和定义都对得上看图模型那一支,没有找到第二种用法。

这一处也给出了读这本书的通用姿势,第 08 章会再说一次:

书里凡是带缩写的技巧名,都要当场核一下原始出处再往下用。

5. 作者的判断与证据

说法性质
少样本能引导风格、结构、语气,共识
「例子太多会限制 AI 的创造力」理由不准;真实理由是占长度、带偏
专家身份能得到「权威且详细」的答案一半对:详细是真的,「权威」(即更准)有反证
行业术语提高相关性,而且机制清楚
RAG 的定义与用途对,但极薄,四件必须知道的事都没讲
上下文感知能提升连贯性,但它不是新技巧
CoOp / CoCoOp 的解释,见第 4 节
多模态描述对,但和第 2 章自相矛盾

全章零引用。 上面每一条外部证据都是我们补的。

6. 边界与局限

缺什么说明
没有零样本的定义少样本讲了,对照面从没出现过
RAG 只有六行切段、算相关、检索失败、资料带毒,一个没讲
没讲工具调用(让模型自己去调计算器、查数据库、发请求)这是 2024 年之后最主流的「补它没有的东西」的办法,书完全没有
没讲微调什么时候比提示词划算书在第 2 章提过微调这个词,但从没和提示工程放在一起比较过
没讲这些技巧要花多少钱例子、资料、历史都占长度,长度就是钱

关于最后两条,补一条实用判据(我们的,不是书里的):

你的情况该用哪条路
它不知道事实RAG(贴资料)
它不知道格式和口气少样本(给例子)
它需要当场算准、查实时数据、动你的系统工具调用(书没讲)
你有几千条以上的同类样例、而且要长期稳定跑微调(改模型本身)

7. 可带走的

  1. 三条通道:给例子(要形式)、给身份(要说法)、给资料(要事实)——先分清缺的是哪一样;
  2. 零样本 = 不给例子;少样本 = 给两到五个;你平时绝大多数用法是零样本;
  3. 例子没有在训练它,模型里的数一个都没动,下一次对话它什么都不记得;
  4. 例子里的答案错了效果也掉不多——例子传的主要是格式和取值范围,所以先保证格式统一;
  5. 例子 2 到 5 个,覆盖面比典型性重要;太多会占长度、会带偏;
  6. 「你是专家」不能让它更准(有论文反证),它能换口气、换深浅、换视角;
  7. 用对这一行的术语,比说「你是专家」更靠得住——注意这是从机制推出来的判断,没人实测过;不确定术语时,老实描述现象;
  8. RAG = 先检索再贴进提示词让它照着答;它出自 2020 年,不是新东西;
  9. RAG 不消除胡说,只把胡说的范围缩小到你给的材料里;要它标出处,然后抽查;
  10. 贴进去的资料是不可信输入,这是第 06 章那个安全问题的入口;
  11. 书里的 CoOp / CoCoOp 一节名实不符:保留它的建议,扔掉那两个名字;
  12. 凡是带缩写的技巧名,先核一下原始出处再用。

8. 原文地图

主题原书章原文位置
少样本的定义与例子Chapter 3 Advanced Techniques for Prompt Generationtext/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:348(搜「small number of examples」) · text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:354(搜「herbal infusion」)
例子别给太多Chapter 3 Advanced Techniques for Prompt Generationtext/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:364(搜「overloading prompts with too many examples」)
过度拟合到特定问法Chapter 7: Common Pitfalls and Things to Keep in Mindtext/08-ch07-chapter-7-common-pitfalls-and-things-to-keep-in-.txt:44(搜「Over-optimizing a prompt for one task」)
专家身份Chapter 3 Advanced Techniques for Prompt Generationtext/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:205(搜「subject matter expert」) · text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:207(搜「certified financial advisor」)
角色扮演的建议Chapter 3 Advanced Techniques for Prompt Generationtext/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:390(搜「fitness coach」)
行业术语Chapter 3 Advanced Techniques for Prompt Generationtext/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:223(搜「industry-specific terminology」) · text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:225(搜「Kubernetes pod scaling」)
检索增强生成Chapter 3 Advanced Techniques for Prompt Generationtext/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:75(搜「real-time data retrieval with text generation」) · text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:81(搜「type of sources AI should reference」)
上下文感知Chapter 3 Advanced Techniques for Prompt Generationtext/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:285(搜「previous interactions, or user preferences」) · text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:298(搜「session IDs or metadata」)
多模态Chapter 3 Advanced Techniques for Prompt Generationtext/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:267(搜「Multi-modal prompting combines text」) · text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:269(搜「image of a mechanical part」)
CoOp / CoCoOp(讲错的一节)Chapter 3 Advanced Techniques for Prompt Generationtext/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:55(搜「Context Optimization (CoOp)」) · text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:57(搜「Provides contextual tokens」) · text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:59(搜「Builds on CoOp」)

Footnotes

  1. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 348 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:348,搜「small number of examples」)。

  2. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 354 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:354,搜「herbal infusion」)。原例是两句饮品描述,让它照着给一款草本茶写第三句。

  3. 补充(不在书里):来源:《Language Models are Few-Shot Learners》,Brown 等,2020 年 5 月 https://arxiv.org/abs/2005.14165(查阅于 2026-08-25)。摘要原话是,GPT-3 在所有任务上都是「不做任何梯度更新或微调」地使用的,任务和少样本示范「纯粹通过文字交互来指定」。这篇论文也是「零样本 / 单样本 / 少样本」这套叫法的来源。

  4. 补充(不在书里):来源:《Rethinking the Role of Demonstrations: What Makes In-Context Learning Work?》,Min 等,2022 年 2 月 https://arxiv.org/abs/2202.12837(查阅于 2026-08-25)。摘要原话是「正确的示范答案其实不是必需的——把示范里的标签随机打乱几乎不损害表现」,横跨 12 个模型都成立;真正起作用的是示范提供了标签的取值范围、输入文本的分布和整体格式。

  5. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 364 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:364,搜「overloading prompts with too many examples」)。

  6. 出处:「Chapter 7: Common Pitfalls and Things to Keep in Mind」第 44 段(text/08-ch07-chapter-7-common-pitfalls-and-things-to-keep-in-.txt:44,搜「Over-optimizing a prompt for one task」)。书给的解法是「拿一批不同的变体测一遍,别把提示词写得太死」,这条建议很好,但书没有把它和少样本联系起来。

  7. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 205 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:205,搜「subject matter expert」)与第 207 段那个理财顾问的例子(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:207,搜「certified financial advisor」)。

  8. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 390 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:390,搜「fitness coach」)。

  9. 补充(不在书里):来源:《When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models》,Zheng 等,2023 年 11 月 https://arxiv.org/abs/2311.10054(查阅于 2026-08-25)。摘要原话是,在系统提示词里加入身份设定「相比不加身份的对照组,并没有在一系列问题上提升模型表现」;而且自动挑选最优身份「并不比随机挑更好」。注意这个结论针对的是回答的准确性,不是口气或风格。

  10. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 223 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:223,搜「industry-specific terminology」)。书给这一节起的名字是 Domain-Specific Language (DSL) Prompting,不过 DSL 在编程领域另有一个成熟得多的含义(为某个专门领域设计的小型编程语言),这又是一处名字借用得不太合适的地方。

  11. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 225 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:225,搜「Kubernetes pod scaling」)。

  12. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 75 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:75,搜「real-time data retrieval with text generation」)。

  13. 补充(不在书里):来源:《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》,Lewis 等,2020 年 5 月 https://arxiv.org/abs/2005.11401(查阅于 2026-08-25)。摘要原话是,预训练模型虽然把知识存在参数里,「但它们取用和精确操作这些知识的能力仍然有限」。

  14. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 81 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:81,搜「type of sources AI should reference」)。

  15. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 83 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:83,搜「Verify the relevance of retrieved information」)。

  16. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 285 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:285,搜「previous interactions, or user preferences」)。

  17. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 298 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:298,搜「session IDs or metadata」)。

  18. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 267 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:267,搜「Multi-modal prompting combines text」)与第 269 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:269,搜「image of a mechanical part」)。

  19. 出处:「Chapter 2: Understanding Large Language Models (LLMs)」第 102 段(text/03-ch02-chapter-2-understanding-large-language-models-ll.txt:102,搜「Multimodal AI」)。第 8 章又把它列了第三次,还是当未来趋势(text/09-ch08-chapter-8-future-trends-in-prompt-engineering.txt:67,搜「prompts will expand to include images」)。

  20. 补充(不在书里):来源:Anthropic 官方文档《Vision》 https://platform.claude.com/docs/en/build-with-claude/vision(查阅于 2026-08-25)。文档写明图片按 28×28 像素的小块计,一块叫一个 visual token,总数为 ⌈width / 28⌉ × ⌈height / 28⌉;它给的对照表里 1000×1000 像素 = 1296 个,1092×1092 像素 = 1521 个,超出上限的图会先被等比缩小,标准档上限 1568 个。这是 Anthropic 一家的口径——别家的切法和上限都不一样,用哪家就去查哪家的文档。

  21. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 55 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:55,搜「Context Optimization (CoOp)」)、第 57 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:57,搜「Provides contextual tokens」)与第 59 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:59,搜「Builds on CoOp」)。书没有给这两个名字任何出处。

  22. 出处:「Chapter 3 Advanced Techniques for Prompt Generation」第 71 段(text/04-ch03-chapter-3-advanced-techniques-for-prompt-generat.txt:71,搜「Based on my previous interactions about digital marketing」)。

  23. 补充(不在书里):来源:《Learning to Prompt for Vision-Language Models》(即 CoOp),Zhou Kaiyang 等,2021 年 9 月 https://arxiv.org/abs/2109.01134(查阅于 2026-08-25)。论文的做法是「用可学习的向量来表示提示词的上下文词,同时把预训练模型的全部参数冻住」——那些「上下文」是训练出来的一串数字,不是人写的文字。

  24. 补充(不在书里):来源:《Conditional Prompt Learning for Vision-Language Models》(即 CoCoOp),Zhou Kaiyang 等,2022 年 3 月 https://arxiv.org/abs/2203.05557(查阅于 2026-08-25)。做法是加一个小网络,为每张输入图片生成一个专属的向量。

  25. 补充(不在书里):同上一条来源。论文指出的 CoOp 缺陷是「学到的上下文无法推广到同一数据集内更广的、没见过的类别」,也就是训练时过度拟合到了见过的类别上。书里把这一点写成了「能按不同场景动态适应」——方向对,但完全没有提到它是在修一个训练缺陷。