一条每天一万次的客服话务,全人工一天 15000 元,换成「模型答 + 人工核」是 2506 元, 省 83.3%。 但真正要盯的是另一个数: 模型的答错率只要不超过 83.3%,这笔账就算得过来。 两个 83.3% 撞在一起纯属巧合, 一个说省多少,一个说能错多少。
这是全书第一节,也是整本书的立论基础。 后面所有技术——标注、微调、量化、部署——最后都要回到这条成本结构上兑现。
一、「要不要学」其实是个成本问题
关于人工智能的讨论,多数停在「会不会取代人」。这个问题没法答,因为它太大。 能答的是另一个:同样的活,换个干法,钱差多少。 拿一条最普通的客服话务算:每天一万条,每条人工要三分钟,时薪三十元。 一天的人工成本是 15000 元,一个月四十五万。这是一个很容易被感知的数。 换成模型:一张五千块的消费级显卡,跑一个七十亿参数的量化模型,每秒出二十个 token, 平均回复两百个 token,并发四路——一天能答 34560 条,够用,只用跑 6.9 小时。 电费按三百瓦、六毛一度算,是 1.2 元。显卡按三年摊,一天 4.6 元。两项加起来不到六块。 这时候你会以为「成本几乎为零」——先别急。
二、把账拆成四项,贵的那项永远是人
上面那个「不到六块」漏了一项:模型答完,得有人核。 按每条核半分钟、时薪三十算,一万条是 2500 元。 于是总账变成:电费 1.2 + 折旧 4.6 + 复核 2500 = 2506 元,比全人工的 15000 省 83.3%。 这张表的结构比数字重要: 机器那头是电费和折旧,人那头是复核和重答,后者永远是大头。 你换成任何行业、任何单价, 这个结构都不变。 所以「部署一个模型就省钱了」这个想法是错的。 省钱的是「模型干粗活、人干细活」这个分工,模型只是把人的工作量从「全做」压到「只核」。
三、便宜的前提:错误率别过 83.3%
上面算的是「模型答完之后只核、不重答」。真实情况是答错的要重答,重答又按三分钟一条算。 于是总成本变成 2506 + 10000 × 错误率 × 3/60 × 30。错误率每涨 10 个点,多花 1500 元。 让它等于 15000,解出错误率 83.3%。这就是盈亏平衡点。 换句话说:模型不需要比人准,只要别错到 83% 以上,账就算得过来。 这个结论听起来像在给模型开脱,其实是把问题问对了。 真正该盯的不是「准确率 92% 还是 95%」,而是「错了之后谁兜、兜的成本多高」。 一个准确率 85% 但能从界面上看出「这条可能不对」的系统, 比一个准确率 92% 但错了也看不出来的系统更值钱。
四、被替代的不是「人」,是「这一步动作」
上面这套账里,没有一个人被整体替代。 被替代的是「按标准话术回复」这一个动作,留下来的是「判断这条回复能不能发」这一个动作。 这就是训练师这个岗位存在的理由:模型不会自己知道「哪条能发」,得有人把判断标准变成数据、 变成评估指标、变成上线后的监控项。 后面十一章讲的都是这件事的不同侧面——第二章把模型装到自己机器上,第三章到第八章造数据、标数据、 训语言模型和绘画与语音模型,第九章到第十二章落到政务教育、交通智驾、医疗法律、金融农业八个行业。
五、动手 Demo:一条话务的四种成本,和那个 83.3% 的平衡点
按显式给定的参数(时薪 30 元、显卡 5000 元、电价 0.6 元)算两件事: 一是「模型答 + 人工核」比全人工省多少;二是让两边打平,模型的答错率能容忍到多高。 最后扫一遍错误率,看省的钱怎么被吃掉。
n, min_per, wage_h = 10000.0, 3.0, 30.0
human = n * min_per / 60.0 * wage_h # 15000
cap = 86400.0 * 4 / (200.0 / 20.0) # 一天能答多少条
hours = n / cap * 24.0
power = 0.3 * hours * 0.6 # 电费
amort = 5000.0 / (365.0 * 3) # 显卡折旧
check = n * 0.5 / 60.0 * wage_h # 复核人工
base = power + amort + check
breakeven = (human - power - amort - check) / human
for e in (0.0, 0.15, 0.30, 0.50, 0.83, 0.90):
redo = n * e * min_per / 60.0 * wage_h
print(e, redo, base + redo)
实跑输出:
--------------------------------------------------------------------
为什么是现在:模型比人便宜,但前提是错误率别过 83%
--------------------------------------------------------------------
每天话务 10000 条
单卡每天能答 34560 条(并发 4,每秒 20 token)
满负荷要跑 6.9 小时
方案 电费 折旧摊销 复核人工 每天合计(元)
----------------------------------------------------------
全人工 — — 15000 15000
模型 + 人工核 1.2 4.6 2500 2505.8
模型方案每天 2505.8 元,全人工 15000 元,省 **83.3%**。
电费和折旧合起来不到 6 元——**贵的那一项是「复核人工」的 2500 元**,不是机器。
但上面那个数假设模型只答不错。答错的要人工重答,账就变了:
模型答错率 重答人工 每天合计 比全人工省 结论
---------------------------------------------------
0% 0 2506 12494 省
15% 2250 4756 10244 省
30% 4500 7006 7994 省
50% 7500 10006 4994 省
70% 10500 13006 1994 省
83% 12450 14956 44 省
90% 13500 16006 -1006 亏
100% 15000 17506 -2506 亏
盈亏平衡的答错率 83.3%
换句话说:**模型不需要比人准,只要别错到 83% 以上,账就算得过来。**
真正的门槛不在模型有多聪明,在「有没有人核」和「错了谁兜」。
这些单价都是我显式给的假设(时薪 30、显卡 5000、电价 0.6),换个公司数就变。要记的不是具体金额,是**结构的比例**:机器那头是电费和折旧,人那头是复核和重答,后者永远是大头。
表格里那句「省」和「亏」的分界,落在 83% 和 90% 之间。再精确一点:83.33%。 这个数是怎么来的?把「重答人工」这一项设成未知,让总成本等于 15000,解出来就是它。 它的高低只取决于「复核成本占多少」——复核越便宜,能容忍的错误率越高。 有个地方容易看错:第一张表里「全人工」的画线是两个「—」,不是零。 人工没有电费和折旧,但有全部的人工费。 最后一句要交代清楚:这些单价全是我显式给的假设,换个公司数就变。 要带走的是这张表的结构,不是这几个数。
30 秒实验
- 把时薪从 30 改成 60,重新算平衡点——它不变,还是 83.3%。因为人工和重答是同一个单价,约掉了。 这个「不变」本身就是个结论:平衡点跟工资水平无关,只跟「复核要花多少相对时间」有关。
- 把复核时间从 0.5 分钟改成 0.1 分钟,平衡点从 83.3% 升到 96.7%。复核越省事,越能容忍模型犯错。
- 把并发从 4 改成 1,一天只能答 8640 条,跑不完一万条——账单里得再加一张卡。 这时看的是「加卡」和「减量」哪个便宜。
常见误区
- 「模型得比人准才有价值」。反了。上面那个 83.3% 说明,只要别错到大多数都错,账就算得过来。 价值来自分工,不来自超越。
- 「把电费算清楚就知道 AI 贵不贵了」。电费占不到总成本的千分之一。 真正贵的是复核人工和一次性投入的集成费用。
- 「买完卡就一劳永逸」。 模型会漂移、数据会变、业务规则会改,复核人工和运维是永久项,不是过渡项。
自测三问(点开对答案)
1. 为什么「复核人工」是这四项里最大的一项? —— 因为它是唯一随业务量线性增长的人工项。 电费和折旧是固定的,只有复核是「每条都要过一遍人手」,量越大越大。 2. 平衡点 83.3% 会随工资水平变化吗? —— 不会。人工费和重答费是同一个单价,两边同时缩放,约掉了。 它只跟「复核一条要多久」和「答复一条要多久」的比值有关。 3. 如果模型的错误都是「答非所问」而不是「答错细节」,这笔账该怎么改? —— 得加一项「识破成本」——用户或客服要先看出它答偏了,才谈得上重答。 这一项的代价往往比重答本身还高,所以「答得偏」比「答得错」更伤。这一节算的是「现在为什么值得做」。 下一节往回看:这条路走了七十年,中间断过两次,它凭什么又活过来了。
- ☐ (本节完,下一节 1.1.2 人工智能是如何发展起来的)