那条横线:替掉的人时必须比它贵
这一章讲三件事: 钱先流到了谁手里;哪些场景做了会赔; 以及什么样的应用才算「为它而生」。
它在全书链条里的位置: 第 16、17 章讲的是产业怎么分层。 这一章讲那条贯穿所有层的钱线,并落到最上面那一层。 第 20 章会在这条线上再加一项:安全的开销。
1. 第一波钱花在卖铲子的人身上
这一节给出这一轮最早被验证的一条产业事实。
书里那场对话的开场白就是这句:「要想挣钱,还没轮到做应用的。 大模型第一波的钱都花在你们显卡身上了,你们给产业设了很高的门槛啊。」1
门槛具体在哪? 书里那位创业者角色分得很清楚: 微调成本只是相对小的一部分;高门槛在微调的一前一后—— 从一开始的预训练,算力就是很高的进入门槛; 做好之后,应用要想规模推广,推理成本是另 一个门槛2。
┌──────────────┬──────────────┬──────────────┐
│ 预训练 │ 微调 │ 推理 │
│ 门槛:算力 │ 相对便宜 │ 门槛:每答 │
│ 几亿~几十亿 │ 8 张卡一天 │ 一次都要钱 │
└──────────────┴──────────────┴──────────────┘
一次性 持续的
这张图的右边那一格,就是这一章的题目。 它有个名字:边际服务成本——就是「每多服务一次,你要多掏的那笔钱」。
书里那位角色给了一个很好的历史对照: 当年互联网视频刚出现的时候,机房那一侧的带宽成本超级贵,占了企业收入的四成以上, 这样业务运营就很难体现互联网的边际效应;带宽成本是在后来才慢慢降下来的3。
2. 主走查:一次金融法律查询的账
这是本章的主走查,四步,全部来自书里。
书里画那条线的逻辑是:如果你给定了一个模型的推理成本,同时也标定了它的能力底线, 就要在这个前提下来设计用户产品及其商业模式; 而这个商业模式应该要挣到推理成本以上的服务收入才对4。
然后书里当场算了一笔账5:
| 第几步 | 算什么 | 数 |
|---|---|---|
| 1 | 一次查询能省多少人时 | 15 分钟 |
| 2 | 这个岗位一小时值多少 | 100 元(书里注明:金融法律助理岗,高于普通劳动力) |
| 3 | 所以这一次的服务价值 | 25 元 |
| 4 | 企业实际会付多少 | 5 元(书里的原话是「企业实际不会付 25 元,可能他只付 5 元」) |
| 5 | 每答一次的开销 | 不到 1 元 |
| 6 | 结论 | 这个毛利就足以运营起来了 |
书里由此画出那条线:不管你采用了贵还是便宜的模型, 在推理成本上横着画一条线,选横线之上的应用场景,才有可能赚钱6。
服务价值(每次)
▲
25 元│ ● 金融/法律助理:能省 15 分钟 × 100 元/时
│
5 元│ ○ 企业实际支付
│
1 元│━━━━━━━━━━━━━━━ ← 每答一次的开销(那条横线)
│
│ × 线以下的场景:做得再好也是赔的
▼
这条线的用法只有一句话:你替掉的那点人工,必须比它每答一次的开销更贵。
3. 三年后:这条横线往下移了多少
这一节是书外补充,而且它会改变上一节所有的结论。
第 17 章第 8 节给过一个判断:同等能力的调用价格,三年里降了一个数量级以上。
把它代进第 2 节那笔账:
| 书里那一年 | 三年后(我们的估计) | |
|---|---|---|
| 每答一次的开销 | 不到 1 元 | 低一个数量级以上 |
| 那条横线的位置 | 1 元 | 往下移了至少一个数量级 |
| 后果 | 只有金融法律这类高价值场景在线上 | 一大批原本在线下的场景被抬到了线上 |
判断(我们的,不是书里的):这条横线往下移,不等于「所有场景都能做了」。 理由是第 20 章那件事:横线上还要再加一项——安全的开销。 而安全的开销不像算力那样随技术进步自动下降: 它取决于你这个场景能容忍多少错,而那个数三年没变。 如果错,会错在: 如果核查和护栏这些事也被自动化到极低成本, 那么安全那一项也会跟着降,这条判断就要收回。
4. 贵的模型配贵的客户,便宜的配便宜的
这一节讲怎么用那条线做产品决策,书里给了三个具体做法。
做法一:按客户的付费能力挑模型。 书里的说法是: 贵的那个能力强、可靠性也提升了,首选用在专业性、可靠性要求比较高, 同时也更有钱的市场,例如金融和法律的客户; 而追求性价比的那个虽然有差距,就可以找一个客户要求低一些、 但付费能力也弱一些的市场,例如个人助手市场7。
做法二:同一个产品内部分层。 书里点了当时的实际做法: 愿意付费的用户用贵的模型,不付费的用户用便宜的那个; 书里还预判会针对免费用户增加广告的商业模式—— 并且指出这些方法在移动互联网行业很成熟了7。
这个分层的成本依据,书里给了一个具体倍数: 从企业服务的调用定价可以得知,那个更强的版本的推理单价, 是便宜版本的 30~60 倍(取 30 还是 60,取决于一次能塞进去多少内容)8。 书里 由此推断:两个版本的推理成本差别是很大的。
做法三:同样是免费 + 广告,垂直领域比通用领域值钱。 书里说: 如果在高价值的垂直领域,例如金融、法律,就比通用型服务有更高的单次服务收入, 也就用得起更好、更贵的模型;这种垂类的广告价值,很可能比用户付费还更高9。
最后一条提醒很实在:更好不一定更贵。 书里说,有些垂直领域场景,或许不需要靠更大的模型来变得更好, 所以推理成本也不贵,但需要花精力在领域数据和训练校正上, 或者增加某个特性,例如更长的记忆窗口10。
5. 应用层的三个样本
这一节讲最上面那一层,书里挑了三个样本,三种完全不同的活法。
| 一个通用助手 | 一个法律助手 | 一个陪聊产品 | |
|---|---|---|---|
| 怎么收钱 | 按月付费、插件抽成、对话中插广告11 | 按次付费或按月付费,单用户 100~500 美元/月12 | 未来可能「前向付费 + 后向广告」双重模式13 |
| 市场有多大 | 用户量已破亿,长期潜在规模十亿量级14 | 2021 年全球法律科技市场收入 276 亿美元,预计 2027 年 356 亿15 | 取决于「个人化 AI 伴侣」这个人群有多大16 |
| 壁垒是什么 | 模型领先 + 提前启动的数据飞轮17 | 行业积累:4000 小时、3 万个法律问题18 | 自建模型 + 特色运营(抓粉丝红利、让用户自己产内容传播)19 |
| 最大的风险 | 边际成本吃掉广告收入 | — | 每次问答的成本如果高于每次问答的广告收入,就无法维持大量免费用户20 |
第一个样本的商业模式之争最值得看,因为它是一道二选一:
书里把用户一分为二:用贵模型的付费用户,和用便宜模型的免费用户; 当模型巨大、显卡很贵的时候,边际成本也非常高,广告或抽税的人均收入无法弥补, 这种情况下必须采用「付费才能用」的模式; 而便宜的那个推理成本较低,如果对使用量加以限制, 就可以让部分用户免费用,通过广告和抽成部分弥补21。
书里的对比结论:前一种商业回报相对稳健但规模受限; 后一种用户规模天花板更高,但商业化较为不确定22—— 而这正是第 16 章第 1 节那家搜索巨头犹豫的原因: 新的应用形态替代了搜索,商业化回报率却不足,将极大影响市值22。
顺带记一个可以引用的数:书里引的那项白领研究显示, 知识工作者愿意拿出工资的 0.5% 来按月买这类服务23。 0.5% 是什么概念? 月薪一万元的人,愿意每月付 50 元。 (这个换算是我们补的。)
6. 「iPhone 时刻」到底在说什么
这一节拆一个被用滥的类比,书里拆得很好。
先看时间线的对应24:
| 那一边 | 这一边 |
|---|---|
| 2007 年,第一代 iPhone 发布 | 2022 年 11 月,ChatGPT 发布 |
| 2008 年,应用商店发布 | 2023 年 3 月,插件库发布 |
| 2009 年,才出现第一个真正的爆款游戏 | ? |
关键在第三行。 书里说:2008 年应用商店里的应用和游戏, 基本上都是从电脑网页、游戏主机上移植过来的,并没有充分利用那款手机的特性24。
那款手机相对之前的机器有两个划时代的优势: 超大的多点触控电容屏(把键盘取消了),以及很强的终端算力25。
而那个爆款游戏刚好把这两点都用上了: 玩家只有一个动作——手指划屏幕拉开弹弓; 需要在触屏上细微地调整角度和力量,才能打中目标(用上了触屏); 打中之后会有很多东西撞来撞去、从架子上倒塌下来, 这里面的物理碰撞效果对计算能力提出了很高的要求(用上了算力)26。
书里由此给出一个通用规律,这段值得抄: 当某一项新技术出来之后,传统应用往往只把新技术嵌入进来作为补充, 无法百分之百发挥新技术的优势;需要有一个或几个应用,从头开始就围绕新技术而设计, 带来突破性的价值,然后引发更多的开发者追随27。
7. 什么算「为它而生」:说人话,办人事
这一节给出判据,只有两句话。
书里那位创业者角色给的第一条判据是:视模型为人,在应用中设计「类人」的交互和任务28。 展开是两句:跟它说人话,期待它办人事29。
先说「不说人话」长什么样。 书里的反例很具体: 在已 有的系统应用里嵌入它,预先配置好固定的对话提示语,用户不用参与对话, 点点鼠标或手指就能完成—— 书里对这种做法的判断很平衡:在已经固定下来的那套办事流程里,这样设计是合理的, 对用户体验是好事,推广时用户容易接受;同时也说明, 这是拿它的能力去填补原有系统的能力空缺,打补丁、做加法, 但它不属于原生的应用场景,也没有充分利用它最强大的语言交互能力30。
再说「办人事」。 书里给这三个字加了一个水平限定,这一段很实在: 应该把它当作一个具有本科学历、且经过某种专业训练、 某些地方比普通人厉害的人,对标至少薪水上万的人类; 请它办合适的事情,这才算充分发挥优势; 也要注意避开它目前的弱项,例如做数学题、做规划31。
书里那位芯片专家角色的话把这件事说得最白: 如果让我招聘一个月薪上万的助理,或者请一个专业教练,我不会让他打杂, 至少得帮我解决一些有难度的问题,做我自己一个人做不到的事32。
书里举的原生应用例子是一个「耳语教练」: 在开会、约会、谈判这类场景下,用骨传导耳机把语音转成文字作为输入, 获得它的指导意见33—— 而书里紧接着点了这个设想的死穴:要做到足够「类人」,还要把长期记忆加上; 你的私人教练会了解你、知道你过往很长时间的事情34。 (它记不住你这件事,第 01 章第 8 节讲过,第 20 章会作为缺陷再提一次。)
8. 模型即内容
这一节讲书里对未来的一个判断,它比前面几节更远,但很有意思。
书里那位角色说:用户定制的模型,可以开放给其他用户来使用,这也是个新的玩法; 由此提出一个说法——模型即内容,模型本身会成为应用里面的重要内容35。
书里给的演进路线是:从移动互联网时代的「专业用户和普通用户一起产内容」, 到这一轮的「专业用户产出模型本身」35。
这一节最有趣的一段是那个脑洞: 当邮件的双方都是它在操作、甚至它写 PPT 给它讲的时候, 邮件和 PPT 还应当像现在这样吗?36 书里 没有回答,我们也不回答——但这个问题今天比 2023 年更尖锐。
9. 作者的判断与证据
| 说法 | 性质 |
|---|---|
| 「第一波钱花在显卡上」 | 产业观察,而且被后来的事实证实 |
| 25 元 / 5 元 / 1 元 | 书里角色现场估的,不是调研数据 |
| 那条横线 | 作者提出的判据,全书最实用的一条 |
| 30~60 倍的推理单价差 | 从公开定价推出来的,书里说明了推导方式 |
| 三个应用样本的收入与市场数字 | 公开数据与咨询机构预测 |
| 「愿支付工资的 0.5%」 | 调研数据,来自第 10 章那项研究 |
| iPhone 时刻的类比 | 类比,不是论证 |
| 「视模型为人」 | 作者的心法,没有证据 |
必须点破的一处:那笔 25/5/1 元的账,三个数没有一个有出处。 它是书里那位角色在对话里现场估的。它的价值在于给了你一个可以套的算式, 不在于那三个数本身。 你自己的场景要自己填数。
10. 边界与局限
- 这条线只算了「省下的人时」。 而它带来的价值可能 不是省人时, 是做原来做不到的事(第 20 章第 7 节那条「创造新市场」)——这类价值这条线量不出来。
- 书里没有算训练成本怎么摊。 那 1 亿元的卡钱要摊到多少次回答上?一句没有。
- iPhone 那个类比有一处对不上,书里没提: 那款手机卖的是硬件,一次性收钱; 而这一轮每用一次都要花钱。 一个是边际成本近乎零的生意,一个不是。
- 「视模型为人」和第 05 章那条「它会讨好你」再一次打架。 你越把它当人,越容易信它编的东西。 这本书在两处都写了,但从没放在一起看。
11. 可带走的
- 第一波钱花在卖铲子的人身上——门槛在微调的一前一后:预训练和推理。
- 那条线:在「每答一次的开销」上横着画一条,只有线以上的场景才可能赚钱。
- 这笔账算得很朴素:省 15 分钟 × 100 元/时 = 25 元价值;收 5 元;成本不到 1 元。
- 三年后这条线往下移了至少一个数量级——但线上还要再加一项安全的开销。
- 贵的模型配贵的客户;同一个产品内部也可以分层。
- 「iPhone 时刻」说的不是产品像,是生态要过几年才长出真正为它而生的东西。
- 判据两句话:跟它说人话,期待它办人事——而且要对标一个月薪上万的人。
12. 原文地图
| 主题 | 原书章 | 原文位置 |
|---|---|---|
| 第一波钱花在显卡上 | 15 关于大模型产业的对话：第1集 | text/17-ch15-15-1.txt:37(搜「还没轮到做应用的」) |
| 门槛在微调的一前一后 | 15 关于大模型产业的对话：第1集 | text/17-ch15-15-1.txt:45(搜「大模型的高门槛在微调」) |
| 带宽成本那个历史对照 | 15 关于大模型产业的对话：第1集 | text/17-ch15-15-1.txt:155(搜「服务器带宽成本超级贵」) |
| 那笔 25/5/1 元的账 | 15 关于大模型产业的对话：第1集 | text/17-ch15-15-1.txt:177(搜「假设每次Query」) · text/17-ch15-15-1.txt:179(搜「可能他只付5元」) |
| 那条横线 | 15 关于大模型产业的对话：第1集 | text/17-ch15-15-1.txt:186(搜「选横线之上的应用场景」) |
| 分层定价 | 15 关于大模型产业的对话：第1集 | text/17-ch15-15-1.txt:191(搜「愿意付费的用户用贵的模型」) |
| 30~60 倍 | 14 大模型产业拆解 | text/16-ch14.txt:760(搜「推理单价是GPT-3.5的30」) |
| 三个应用样本 | 14 大模型产业拆解 | text/16-ch14.txt:738(搜「20美元/月」) · text/16-ch14.txt:832(搜「单用户订阅付费区间设定为」) · text/16-ch14.txt:914(搜「每次问答成本」) |
| 0.5% 的支付意愿 | 14 大模型产业拆解 | text/16-ch14.txt:791(搜「愿意支付工资 的0.5%」) |
| iPhone 时刻与那个游戏 | 15 关于大模型产业的对话：第1集 | text/17-ch15-15-1.txt:261(搜「iPhone1就发布了」) · text/17-ch15-15-1.txt:274(搜「愤怒的小鸟」) |
| 说人话、办人事 | 15 关于大模型产业的对话：第1集 | text/17-ch15-15-1.txt:309(搜「视模型为人」) · text/17-ch15-15-1.txt:316(搜「跟它说人话，期待它办人事」) |
| 耳语教练与长期记忆 | 15 关于大模型产业的对话：第1集 | text/17-ch15-15-1.txt:357(搜「耳语教练」) |
| 模型即内容 | 15 关于大模型产业的对话：第1集 | text/17-ch15-15-1.txt:382(搜「PUGM」) |