新东西不是凭空出现的,是把已有的东西重新配一遍。 这一节用四个模型算这件事:组合、扩散、引用、相邻可能。 四个模型加起来,回答了「为什么有些时代发明特别多」。
14.3 讲的是「怎么把一件事做准」,这一节讲「新的事从哪来」。视角从技术内部挪到了技术之间。 它是全书的收尾:前面十三回讲的都是「怎么算」,这一节讲的是「算出来的东西怎么长成新东西」。 5.3 的遗传算法也在做同一件事——把已有的片段重新组合。
一、组合爆炸:多一项就乘一次
手上有 100 种成熟技术,看能配出多少种组合:
| 组合里有几项 | 组合数 |
|---|---|
| 2 项 | 4950 |
| 3 项 | 161700 |
| 4 项 | 3921225 |
| 5 项 | 75287520 |
| 两两组合不到五千,三三就十六万,四四接近四百万。 | |
| 每多一项,组合数就再乘一个「剩下的技术数」——这就是组合爆炸。 | |
| 换个角度看存量:技术越多,能配的对数涨得多快? |
| 已有技术数 | 两两组合数 | 相对上一行 |
|---|---|---|
| 10 | 45 | 没有上一行 |
| 20 | 190 | 4.22 倍 |
| 50 | 1225 | 6.45 倍 |
| 100 | 4950 | 4.04 倍 |
| 200 | 19900 | 4.02 倍 |
| 技术数翻倍,组合数涨四倍——因为它是平方。 | ||
| 这就是「创新会加速」的一半原因:存量越大,可配的边越多。 |
二、扩散:一个好点子怎么传开
用最经典的 Bass 模型:还没用的人里,一部分被广告说服(外部影响 p), 另一部分被身边人带动(内部影响 q,随已用人数上升)。
| 参数 | 到达一半用多久 | 第 30 步渗透率 |
|---|---|---|
| 慢热(p 0.01 q 0.10) | 23 步 | 69.3% |
| 常见(p 0.03 q 0.30) | 8 步 | 100.0% |
| 爆款(p 0.10 q 0.60) | 3 步 | 100.0% |
| q 越大,曲线越陡:内部影响是「人传人」,它决定爆发速度。 | ||
| p 决定起步——没有外部推动,前几个人从哪来? | ||
| 两者都不能为 0,否则曲线要么起不来,要么推不开。 | ||
| 这也解释了一个常见现象:技术好但没人推的东西,往往死在第一年。 | ||
| 注意慢热那一行的 69.3%:它到第 30 步还没饱和。 | ||
| 同样一个好点子,参数不同,三十步之后一个已经普及、一个还在爬。 |
三、引用网络:知识往少数地方聚
模拟 1000 篇论文、每篇引 2 篇,两种连法:
| 连法 | 最大被引 | 前 10% 占全部引用 | 中位数 | |---|---:|---:| | 随机连 | 19 | 24.2% | 3 | | 优先连(越热越引) | 74 | 34.5% | 3 | 随机连的时候,前 10% 占两成四;优先连能占到三成半。 真实引用网络就是后者:被引多的更容易被再引,越滚越集中。 注意中位数两行都是 3——少数节点被引 74 次,一大批只有两三次。 这种「长尾加头部」的结构,是所有知识网络的共同形状。 它有个副作用:新东西想被看见,比它自身质量更难。 不是因为它不好,是因为它还没进那个「被引的池子」。
四、相邻可能:新东西只能长在旧东西旁边
「相邻可能」说的是:一个时代能发明什么,取决于手上已经有什么。 拿一个简单的组合模型走一遍——每一步允许把两种已有东西合成一种新的:
| 第几步 | 已有种类 | 新增 | 理论可配的对数 |
|---|---|---|---|
| 1 | 5 | 2 | 10 |
| 2 | 7 | 4 | 21 |
| 3 | 11 | 11 | 55 |
| 4 | 22 | 46 | 231 |
| 5 | 68 | 455 | 2278 |
| 起步只有 5 种、可配 10 对;攒到 68 种,可配的对数就两千多。 | |||
| 所以「技术加速」不是人变聪明了,是可选组合的池子变大了。 | |||
| 反过来也成立:一个时代缺某些前置技术,某些发明就是做不出来—— | |||
| 不是没人想到,是拼图还差一块。 | |||
| 这就是为什么很多发明会「同时」被几个人做出来:池子满了。 | |||
| 四个模型合起来,回答了开头那个问题。 | |||
| 组合告诉你能配多少,扩散告诉你能传多快,引用告诉你知识往哪聚,相邻可能告诉你什么时候能想到。 |
五、动手 Demo:新东西从哪来,又怎么传开
四段:组合数、Bass 扩散、引用网络、相邻可能。 四个都是十来行的模型,参数是自己定的,但结构和真实研究里用的一样。 它们的价值不在于预测得准,而在于把「为什么会这样」变成能算的东西。
def bass(p, q, M=1000.0, steps=200):
n = 0.0
for _ in range(steps):
add = (p + q * n / M) * (M - n) # 外部推动 + 内部带动
n = min(M, n + add)
return n
def prefer_net(): # 优先连接:越热越容易被连
pool = [] # 把节点按度数塞进池子,抽中概率就随度数涨
for i in range(K + 1, N):
j = pool[int(rg.integers(0, len(pool)))]
...
实跑输出:
--------------------------------------------------------------------
新东西从哪来,又怎么传开
--------------------------------------------------------------------
==============================================================
[1] 组合:技术多了,能配的对数涨得更快
假设手上有 100 种成熟技术,看能配出多少种组合:
组合里有几项 组合数 算一行要多久
2 项 4950 眨眼之间
3 项 161700 秒级
4 项 3921225 秒级
5 项 75287520 秒级
**两两组合不到五千,三三就十六万,四四接近四百万。**
**每多一项,组合数乘上「剩下的技术数」——这就是组合爆炸。**
**所以「把所有组合都试一遍」在创新这件事上,从第四项起就不现实了。**
换个角度看:能配的对数随技术存量怎么涨?
已有技术数 两两组合数 相对上一行
10 45 —
20 190 4.22 倍
50 1225 6.45 倍
100 4950 4.04 倍
200 19900 4.02 倍
**技术数翻倍,组合数涨四倍——因为它是平方。**
**这就是「创新会加速」的一半原因:存量越大,可配的边越多。**
[2] 扩散:一个好东西是怎么传开的
用最经典的 Bass 模型:还没用的人里,一部分被广告说服(外部影响 p),
另一部分被身边人带动(内部影响 q,随已用人数上升)。
参数 到达一半用多久 第 30 步渗透率
慢热(p=0.01 q=0.10) 23 步 69.3%
常见(p=0.03 q=0.30) 8 步 100.0%
爆款(p=0.10 q=0.60) 3 步 100.0%
**q 越大,曲线越陡:内部影响是「人传人」,它决定爆发速度。**
**p 决定起步——没有外部推动,前几个人从哪来?**
**两者都不能为 0,否则曲线起不来或者推不开。**
[3] 引用网络:知识往少数地方聚
模拟 1000 篇论文、每篇引 2 篇,两种连法:
连法 最大被引 前 10% 占全部引用 中位数
随机连 19 24.2% 3
优先连(越热越引) 74 34.5% 3
**随机连的时候,前 10% 占两成四;优先连能占到三成半。**
**真实引用网络就是后者:被引多的更容易被再引,越滚越集中。**
**这种结构有个副作用——新东西想被看见,比它自身质量更难。**
[4] 相邻可能:新东西只能长在旧东西旁边
「相邻可能」说的是:一个时代能发明什么,取决于手上已经有什么。
拿一个简单的组合模型走一遍——每一步允许把两种已有东西合成一种新的:
第几步 已有种类 新增 理论可配的对数
1 5 2 10
2 7 4 21
3 11 11 55
4 22 46 231
5 68 455 2278
**起步只有 5 种、可配 10 对;攒到 68 种,可配的对数就两千多。**
**所以「技术加速」不是人变聪明了,是可选组合的池子变大了。**
**反过来也成立:一个时代缺某些前置技术,某些发明就是做不出来——**
**不是没人想到,是拼图还差一块。**
四段连起来:**技术多了,能配的组合按平方涨**;
**好东西传开靠外部推动起头、内部带动加速**;
**知识会往少数节点聚,越热越被引**;
**而新东西只能长在旧东西旁边——这就是为什么时代有它「能发明的东西」。**
全书十四回到这里。**从规则、搜索、概率、神经网络,到语言、存储、算力、数据,**
**一路看下来,人工智能没有一个统一的「原理」,只有一堆各管一段的方法。**
**而它们共同的底色只有一句:把「说不清的经验」换成「算得清的数」。**
第 1 段那张表最吓人的一行是「5 项 75287520」。 七千五百万种组合,一种试一秒也要两年多——所以「穷举创新」从第四项起就不现实了。 第 2 段三行参数只差 p 和 q,到达一半的时间差了八倍(23 步对 3 步)。 内部影响 q 是那个把曲线掰弯的旋钮。 第 3 段最大被引 19 对 74,前 10% 占 24.2% 对 34.5%。 两种连法的差别不在「平均」,而在「尾部有多长」。 第 4 段那个 68 种、2278 对,是这一节最好的一个数。 五步之内,池子从 5 涨到 68,可配的对数涨了 227 倍——加速是这么来的。
30 秒实验
- 把第 1 段的 100 种技术改成 200 种,重跑。 两两组合从 4950 变成 19900——存量翻倍,组合数涨四倍,这就是平方关系在起作用。
- 把第 2 段的 p 调成 0(没有外部推动),重跑。 曲线起不来——一个初始都没有,内部影响再强也没法「人传人」。
- 把第 3 段的 N 从 1000 改成 5000,重跑优先连。 最大被引会明显变大——网络越大,头部越集中,这就是「马太效应」在网络规模上的表现。
常见误区
- 以为「创新全靠灵感」。相邻可能说的是:能想到什么,受限于手上有什么。 灵感决定谁先想到,池子决定这件事能不能被想到。
- 以为「组合就是创新」。大部分组合没有意义。 真正稀缺的不是组合数,是「哪个组合值得试」的判断力。
- 以为「扩散只靠口碑」。没有外部推动,前几个人从哪里来? p 和 q 缺一不可,这是模型给出的硬结论。
- 以为「被引少就是质量差」。优先连接下,中了头彩的节点会把引用吸走。 新工作想被看见,得先破这个结构,而不是等它自己被发现。
自测三问(点开对答案)
1. 为什么技术存量翻倍,组合数涨四倍? —— 因为**两两组合数是 n 乘 n 减一除二,是平方关系**。 **Demo:10 种 45 对,20 种 190 对,200 种 19900 对。** **存量越大,可配的边越多,这是创新加速的一半原因。** 2. Bass 模型里 p 和 q 各管什么? —— **p 管起步,q 管爆发**。**Demo:p 0.01 q 0.10 要 23 步才到一半,p 0.10 q 0.60 只要 3 步。** **p 为 0 起不来,q 为 0 推不开。** 3. 「相邻可能」到底在说什么? —— **一个时代能发明什么,取决于手上已经有什么。** **Demo 第 4 段:5 种东西能配 10 对,攒到 68 种就能配 2278 对。** **所以技术加速不是人变聪明了,是池子变大了。**全书的十四回到这里结束。 从规则、搜索、概率、神经网络,到语言、存储、算力、数据, 一路看下来,人工智能没有一个统一的「原理」,只有一堆各管一段的方法。 而它们共同的底色只有一句:把「说不清的经验」换成「算得清的数」。
- ☐ (全书完)