📄 一句话概括
所谓更安全的自动化,不是关掉自动化,而是按危险程度分三色灯:读和查可放手,改和装要先说清范围,删和发布永远要人工确认。
📝 本节和前面几节的关系
上一节说的是动手之前,这一节说的是动手之后能放开到哪一步。
一、先说清:自动化的风险不在【会做错】
在可回退的前提下,它做错了的代价很小——回退一下就没事。 真正危险的是不可回退的动作:删掉的东西找不回来,推出去的东西收不回。 所以分档的依据不是【这件事难不难】,而是【错了能不能收回】。
二、三色灯怎么分
绿灯(可放手):读文件、看代码、跑只读命令。这一类做错也不留痕。 黄灯(要先说清):改代码、装依赖、升级版本、改配置。有改动,但能退。 红灯(必须人工确认):删文件、删数据、推送到远端、发布上线。这一档永远别省。
三、黄灯的规矩:说清范围,做完复看
黄灯动作要满足两条:动手前说清范围(改哪些文件、装哪个包),做完自己复看一遍改动。 满足这两条,黄灯其实可以接近绿灯的体验;不满足,就还是红灯的风险。 这么分之后你会发现:大部分活其实在绿灯区,自动化收益比想象中大。
四、动手 Demo:自动驾驶的安全设计——三色灯
下面把六类常见动作按灯色分档。
acts = [(u"读文件、看代码", u"绿灯", u"可放手"),
(u"跑只读命令", u"绿灯", u"可放手"),
(u"改代码、加测试", u"黄灯", u"先说范围,做完复看"),
(u"装依赖、升级版本", u"黄灯", u"先说清装哪个"),
(u"删文件、删数据", u"红灯", u"必须人工确认"),
(u"推送到远端、发布上线", u"红灯", u"必须人工确认")]
实跑输出:
--------------------------------------------------------------------
自动驾驶的安全设计——三色灯
--------------------------------------------------------------------
所谓更安全的自动化,不是关掉自动化,而是**按危险程度分档**:
动作 灯色 规矩
-------------------------------------------------------------------
读文件、看代码 绿灯 可放手
跑只读命令(查状态、看日志) 绿灯 可放手
改代码、加测试 黄灯 先说范围,做完要复看
装依赖、升级版本 黄灯 先说清装哪个,做完要能退
删文件、删数据 红灯 必须人工确认
推送到远端、发布上线 红灯 必须人工确认
六类动作里,2 类可以放手,4 类必须人工确认。
自动化的真实收益在绿灯那部分;红灯那部分**永远别省**。
六类里两类绿灯、四类黄灯红灯——但绿灯那两类覆盖了日常八成的动作。 分档的依据是【错了能不能收回】,不是【这件事难不难】。
30 秒实验
- 把你最近一周让 AI 做的活按三色灯分一遍,看看绿灯占多少。
- 写下你的红灯清单,贴到屏幕边上——那是永远不交出去的部分。
常见误区
- 把自动化理解成【全放】或【全关】两个选项。分档才是真的用法,它才是这一节标题里那个意思。
- 把红灯也放开。红灯的代价是不可逆的——这一档省下的时间不抵赔上的。
自测三问(点开对答案)
1. 三色灯的分档依据是什么? —— 错了能不能收回,不是这件事难不难。 2. 黄灯动作要满足哪两条? —— 动手前说清范围,做完自己复看一遍改动。 3. 为什么自动化收益比想象中大? —— 日常八成动作都落在绿灯区(读、看、只读查询)。- ☐ 下一节(4.3 权限管理:你来定规矩)
相关笔记
- 🤖 Agent+RPA实战 · 索引 — 自动化流程里的风险分级与人工确认点
- 🧡 Claude Code橙皮书 · 索引