📘 第14章 人工智能与海量数据和物联网
📄 一句话概括

新东西不是凭空出现的,是把已有的东西重新配一遍。 这一节用四个模型算这件事:组合、扩散、引用、相邻可能。 四个模型加起来,回答了「为什么有些时代发明特别多」。

📝 本节和前面几节的关系

14.3 讲的是「怎么把一件事做准」,这一节讲「新的事从哪来」。视角从技术内部挪到了技术之间。 它是全书的收尾:前面十三回讲的都是「怎么算」,这一节讲的是「算出来的东西怎么长成新东西」。 5.3 的遗传算法也在做同一件事——把已有的片段重新组合。

一、组合爆炸:多一项就乘一次

手上有 100 种成熟技术,看能配出多少种组合:

组合里有几项 组合数
2 项 4950
3 项 161700
4 项 3921225
5 项 75287520
两两组合不到五千,三三就十六万,四四接近四百万。
每多一项,组合数就再乘一个「剩下的技术数」——这就是组合爆炸。
换个角度看存量:技术越多,能配的对数涨得多快?
已有技术数 两两组合数 相对上一行
10 45 没有上一行
20 190 4.22 倍
50 1225 6.45 倍
100 4950 4.04 倍
200 19900 4.02 倍
技术数翻倍,组合数涨四倍——因为它是平方。
这就是「创新会加速」的一半原因:存量越大,可配的边越多。

二、扩散:一个好点子怎么传开

用最经典的 Bass 模型:还没用的人里,一部分被广告说服(外部影响 p), 另一部分被身边人带动(内部影响 q,随已用人数上升)。

参数 到达一半用多久 第 30 步渗透率
慢热(p 0.01 q 0.10) 23 步 69.3%
常见(p 0.03 q 0.30) 8 步 100.0%
爆款(p 0.10 q 0.60) 3 步 100.0%
q 越大,曲线越陡:内部影响是「人传人」,它决定爆发速度。
p 决定起步——没有外部推动,前几个人从哪来?
两者都不能为 0,否则曲线要么起不来,要么推不开。
这也解释了一个常见现象:技术好但没人推的东西,往往死在第一年。
注意慢热那一行的 69.3%:它到第 30 步还没饱和。
同样一个好点子,参数不同,三十步之后一个已经普及、一个还在爬。

三、引用网络:知识往少数地方聚

模拟 1000 篇论文、每篇引 2 篇,两种连法:

| 连法 | 最大被引 | 前 10% 占全部引用 | 中位数 | |---|---:|---:| | 随机连 | 19 | 24.2% | 3 | | 优先连(越热越引) | 74 | 34.5% | 3 | 随机连的时候,前 10% 占两成四;优先连能占到三成半。 真实引用网络就是后者:被引多的更容易被再引,越滚越集中。 注意中位数两行都是 3——少数节点被引 74 次,一大批只有两三次。 这种「长尾加头部」的结构,是所有知识网络的共同形状。 它有个副作用:新东西想被看见,比它自身质量更难。 不是因为它不好,是因为它还没进那个「被引的池子」。

四、相邻可能:新东西只能长在旧东西旁边

「相邻可能」说的是:一个时代能发明什么,取决于手上已经有什么。 拿一个简单的组合模型走一遍——每一步允许把两种已有东西合成一种新的:

第几步 已有种类 新增 理论可配的对数
1 5 2 10
2 7 4 21
3 11 11 55
4 22 46 231
5 68 455 2278
起步只有 5 种、可配 10 对;攒到 68 种,可配的对数就两千多。
所以「技术加速」不是人变聪明了,是可选组合的池子变大了。
反过来也成立:一个时代缺某些前置技术,某些发明就是做不出来——
不是没人想到,是拼图还差一块。
这就是为什么很多发明会「同时」被几个人做出来:池子满了。
四个模型合起来,回答了开头那个问题。
组合告诉你能配多少,扩散告诉你能传多快,引用告诉你知识往哪聚,相邻可能告诉你什么时候能想到。

五、动手 Demo:新东西从哪来,又怎么传开

四段:组合数、Bass 扩散、引用网络、相邻可能。 四个都是十来行的模型,参数是自己定的,但结构和真实研究里用的一样。 它们的价值不在于预测得准,而在于把「为什么会这样」变成能算的东西。

def bass(p, q, M=1000.0, steps=200):
    n = 0.0
    for _ in range(steps):
        add = (p + q * n / M) * (M - n)    # 外部推动 + 内部带动
        n = min(M, n + add)
    return n


def prefer_net():                  # 优先连接:越热越容易被连
    pool = []                      # 把节点按度数塞进池子,抽中概率就随度数涨
    for i in range(K + 1, N):
        j = pool[int(rg.integers(0, len(pool)))]
        ...

实跑输出:

--------------------------------------------------------------------
新东西从哪来,又怎么传开
--------------------------------------------------------------------
==============================================================

[1] 组合:技术多了,能配的对数涨得更快

  假设手上有 100 种成熟技术,看能配出多少种组合:

    组合里有几项    组合数            算一行要多久
    2 项            4950              眨眼之间
    3 项            161700            秒级
    4 项            3921225           秒级
    5 项            75287520          秒级

  **两两组合不到五千,三三就十六万,四四接近四百万。**
  **每多一项,组合数乘上「剩下的技术数」——这就是组合爆炸。**
  **所以「把所有组合都试一遍」在创新这件事上,从第四项起就不现实了。**

  换个角度看:能配的对数随技术存量怎么涨?

    已有技术数    两两组合数      相对上一行
    10            45              —
    20            190             4.22 倍
    50            1225            6.45 倍
    100           4950            4.04 倍
    200           19900           4.02 倍

  **技术数翻倍,组合数涨四倍——因为它是平方。**
  **这就是「创新会加速」的一半原因:存量越大,可配的边越多。**

[2] 扩散:一个好东西是怎么传开的

  用最经典的 Bass 模型:还没用的人里,一部分被广告说服(外部影响 p),
  另一部分被身边人带动(内部影响 q,随已用人数上升)。

    参数                  到达一半用多久    第 30 步渗透率
    慢热(p=0.01 q=0.10) 23 步             69.3%
    常见(p=0.03 q=0.30) 8 步              100.0%
    爆款(p=0.10 q=0.60) 3 步              100.0%

  **q 越大,曲线越陡:内部影响是「人传人」,它决定爆发速度。**
  **p 决定起步——没有外部推动,前几个人从哪来?**
  **两者都不能为 0,否则曲线起不来或者推不开。**

[3] 引用网络:知识往少数地方聚

  模拟 1000 篇论文、每篇引 2 篇,两种连法:

    连法            最大被引    前 10% 占全部引用     中位数
    随机连          19          24.2%                 3
    优先连(越热越引) 74          34.5%                 3

  **随机连的时候,前 10% 占两成四;优先连能占到三成半。**
  **真实引用网络就是后者:被引多的更容易被再引,越滚越集中。**
  **这种结构有个副作用——新东西想被看见,比它自身质量更难。**

[4] 相邻可能:新东西只能长在旧东西旁边

  「相邻可能」说的是:一个时代能发明什么,取决于手上已经有什么。
  拿一个简单的组合模型走一遍——每一步允许把两种已有东西合成一种新的:

    第几步    已有种类    新增      理论可配的对数
    1         5           2         10
    2         7           4         21
    3         11          11        55
    4         22          46        231
    5         68          455       2278

  **起步只有 5 种、可配 10 对;攒到 68 种,可配的对数就两千多。**
  **所以「技术加速」不是人变聪明了,是可选组合的池子变大了。**
  **反过来也成立:一个时代缺某些前置技术,某些发明就是做不出来——**
  **不是没人想到,是拼图还差一块。**

  四段连起来:**技术多了,能配的组合按平方涨**;
  **好东西传开靠外部推动起头、内部带动加速**;
  **知识会往少数节点聚,越热越被引**;
  **而新东西只能长在旧东西旁边——这就是为什么时代有它「能发明的东西」。**

  全书十四回到这里。**从规则、搜索、概率、神经网络,到语言、存储、算力、数据,**
  **一路看下来,人工智能没有一个统一的「原理」,只有一堆各管一段的方法。**
  **而它们共同的底色只有一句:把「说不清的经验」换成「算得清的数」。**

第 1 段那张表最吓人的一行是「5 项 75287520」。 七千五百万种组合,一种试一秒也要两年多——所以「穷举创新」从第四项起就不现实了。 第 2 段三行参数只差 p 和 q,到达一半的时间差了八倍(23 步对 3 步)。 内部影响 q 是那个把曲线掰弯的旋钮。 第 3 段最大被引 19 对 74,前 10% 占 24.2% 对 34.5%。 两种连法的差别不在「平均」,而在「尾部有多长」。 第 4 段那个 68 种、2278 对,是这一节最好的一个数。 五步之内,池子从 5 涨到 68,可配的对数涨了 227 倍——加速是这么来的。

30 秒实验

  1. 把第 1 段的 100 种技术改成 200 种,重跑。 两两组合从 4950 变成 19900——存量翻倍,组合数涨四倍,这就是平方关系在起作用。
  2. 把第 2 段的 p 调成 0(没有外部推动),重跑。 曲线起不来——一个初始都没有,内部影响再强也没法「人传人」。
  3. 把第 3 段的 N 从 1000 改成 5000,重跑优先连。 最大被引会明显变大——网络越大,头部越集中,这就是「马太效应」在网络规模上的表现。

常见误区

  1. 以为「创新全靠灵感」。相邻可能说的是:能想到什么,受限于手上有什么。 灵感决定谁先想到,池子决定这件事能不能被想到。
  2. 以为「组合就是创新」。大部分组合没有意义。 真正稀缺的不是组合数,是「哪个组合值得试」的判断力。
  3. 以为「扩散只靠口碑」。没有外部推动,前几个人从哪里来? p 和 q 缺一不可,这是模型给出的硬结论。
  4. 以为「被引少就是质量差」。优先连接下,中了头彩的节点会把引用吸走。 新工作想被看见,得先破这个结构,而不是等它自己被发现。
自测三问(点开对答案) 1. 为什么技术存量翻倍,组合数涨四倍? —— 因为**两两组合数是 n 乘 n 减一除二,是平方关系**。 **Demo:10 种 45 对,20 种 190 对,200 种 19900 对。** **存量越大,可配的边越多,这是创新加速的一半原因。** 2. Bass 模型里 p 和 q 各管什么? —— **p 管起步,q 管爆发**。**Demo:p 0.01 q 0.10 要 23 步才到一半,p 0.10 q 0.60 只要 3 步。** **p 为 0 起不来,q 为 0 推不开。** 3. 「相邻可能」到底在说什么? —— **一个时代能发明什么,取决于手上已经有什么。** **Demo 第 4 段:5 种东西能配 10 对,攒到 68 种就能配 2278 对。** **所以技术加速不是人变聪明了,是池子变大了。**

全书的十四回到这里结束。 从规则、搜索、概率、神经网络,到语言、存储、算力、数据, 一路看下来,人工智能没有一个统一的「原理」,只有一堆各管一段的方法。 而它们共同的底色只有一句:把「说不清的经验」换成「算得清的数」。

相关笔记