波仔
🧡 第十章 避坑指南：AI编程的边界
📄 一句话概括

最贵的坑不是它出错，而是它不出错之后你不再自己判断；判断链一旦交出去，你就不再是那个负责的人。

📝 本节和前面几节的关系

前三节讲的都是它的问题，这一节讲的问题在你身上。

一、依赖是怎么长出来的

第一步：它写得比你快，你就少写了。 第二步：你看不懂它的代码，但跑通了，就算了。 第三步：出问题时，你的第一反应是问它，而不是自己定位。 三步走完，判断链已经悄悄交出去了。

二、为什么这比它说错更危险

它说错，你还能验、能改。 判断力没了，你连【它有没有错】都不知道。 第 9.8 节的复盘说得很清楚：五个能力里四个是配合，只有一个是判断——那一个丢了，前面四个都白搭。

三、三个自测信号

还能说清它在干什么吗？说不清，就是危险信号。 出错了你能看出坏在哪吗？看不出来，就是危险信号。 离开它，上周那个活还做得完吗？做不完，就是危险信号。 本节的演示把它们做成了 6 题自测，满分 12，低于 10 就该警惕。

四、怎么保住判断力

每周手写一次：挑一件小事全程自己写——手感是会退化的。 它的代码自己读一遍，读不懂就问它【这段在干什么】，别跳过。 让它解释，别让它决定：把【该怎么办】这一问留给你自己。 一句话：你可以让它替你干活，但不能让它替你负责。

五、动手 Demo：依赖度自测（6 题）

下面是一份 6 题自测，每题【是＝2 分、有时＝1 分、否＝0 分】。

QS = [(u"它写的代码，你能说出每一段在干什么", 2),
      (u"它改坏了，你能一眼看出坏在哪", 1),
      (u"它给的结论，你会自己验一遍再用", 0)]
tot = sum(s for _, s in QS)
P("  本次得分 = %d / 12" % tot)

实跑输出：

--------------------------------------------------------------------
依赖度自测（6 题）
--------------------------------------------------------------------

每题给自己打分：**是 ＝ 2 分，有时 ＝ 1 分，否 ＝ 0 分**。

  自测题                                 得分
  --------------------------------------------
  它写的代码，你能说出每一段在干什么     2
  它改坏了，你能一眼看出坏在哪           1
  出问题时，你先自己定位、再问它         1
  离开它，上周那个活你还能独立做完       2
  它给的结论，你会自己验一遍再用         0
  你会先写清要什么，而不是先让它写       1

  本次得分 = 7 / 12

  10 ~ 12 分：判断链还在你手上，保持。
   6 ~  9 分：开始松动了——挑上面得 0 分的那条，这周补一次。
   0 ~  5 分：判断链基本交出去了，第十一章的心智模型要重点读。

第 5 题拿 0 分最该警惕：**它会自信地错，而你没有验**。

示例得分 7/12——落在【开始松动】那一档。 演示里第 5 题拿 0 分最该警惕：它会自信地错，而你没有验（10.1 节）。

30 秒实验

  1. 做一次 6 题自测，把得分记下来；一个月后再做一次，看它往哪边动。
  2. 这周挑一件小事全程自己写——看看手感还在不在。

常见误区

  1. 把【跑通了】当成【我懂了】。跑通只能证明这一次对了，不证明你看懂了。
  2. 出问题先问它。先自己定位、再问它——顺序反了，判断力退得特别快。
自测三问（点开对答案） 1. 依赖是怎么长出来的？ —— 三步：少写了 → 看不懂也算了 → 出事第一反应是问它。 2. 三个自测信号是什么？ —— 说得清吗、看得出坏在哪吗、离开它做得完吗。 3. 怎么保住判断力？ —— 每周手写一次、它的代码自己读、让它解释而不让它决定。

相关笔记