测这条链不测「跑不跑得通」,测「该不该调」和「仿写能不能发」。 五句话三条路:调工作流、直接答、问回去。判对四句,错的那句含「文案」但不带链接。 短视频平台会变,链要能换零件——外部变化全挡在插件里。
前面三节把链做完了,这一节给它装门、试门。 和第 9.9 节一样,智能体是入口,工作流是挂着的工具。差别在这一章多了一个「仿写质量」的检查。 这一节也回答一个绕不开的问题:平台接口变了怎么办。答案是设计时就留好换零件的位置。
一、谁在调这个工作流
用户不直接打开工作流。他打开的是一个智能体,说一句话,智能体决定调不调。 所以测试分两层:链本身跑不跑得通(10.3 节验过了),智能体判不判得对(这一节)。 第二层比第一层重要。 链做得再好,判错了用户走不到链上。
这一层的测试方法很土:列二十句真实用户会说的话,人工标一遍该走哪条,再让判断逻辑跑一遍,数错几句。
二、五句话三条路
三类去向:调工作流(有链接或有明确的扒文案意图)、直接答(自己写文案)、问回去(拿不准)。
| 用户说什么 | 该走哪条 |
|---|---|
| 复制打开抖音…v.douyin.com/xxx | 调工作流 |
| https://v.douyin.com/xxx | 调工作流 |
| 帮我写一段关于健身的文案 | 直接答 |
| 我昨天看了个视频挺好的 | 问回去 |
| 这条视频的文案帮我扒出来 | 问回去 |
五句判对四句。错的是最后一句:它含「文案」,被判成「自己写」,可用户要的是扒别人的。 错在关键词表只认字面。 「文案」两个字既可能是我写给你,也可能是你扒给我。 修法不是加更多关键词,是换判据:有链接才调工作流。没链接的,一律问回去。这条规则简单,而且不会错。
三、仿写的两种坏法
仿写出来不能直接发,要过一道相似度检查。三种情况:
| 情况 | 相似度 | 怎么办 |
|---|---|---|
| 没改 | 1.00 | 判重,打回 |
| 换词 | 0.47 | 可以发 |
| 跑题 | 0.00 | 打回重写 |
阈值定在 0.85 和 0.2:高于 0.85 打回,低于 0.2 判跑题。 这两个数不是拍脑袋来的——10.1 节量过四句话,1.00 是抄,0.27 和 0.47 是仿写,0.00 是跑题。 但阈值只能筛两端。0.60 那一档(只换两个词)按阈值算合格,人一看还是抄。
所以最后一道是人。 工作流出草稿,人点发布。这一条在 10.1 节就定了,这里只是把它变成代码。
四、平台变了怎么办
短视频平台的接口没有承诺。域名会换、字段会改名、接口会下线。三种变化的代价不一样:
| 变的是什么 | 改哪里 | 代价 |
|---|---|---|
| 换域名 | 插件里的地址,一行 | 链不动 |
| 字段改名 | 后面节点的变量引用 | 两三处 |
| 接口下线 | 换插件,或改人工上传字幕 | 加一条兜底支路 |
注意第一行:换域名只改一行。这是因为两个插件是独立节点,外面那层变化全被挡在插件里。 如果把请求写进代码节点呢?换一次域名要改整段代码,还要重新测。 插件不只是「调接口方便」,它是给外部世界留的一道隔离墙。 墙那边怎么变,墙这边不动。
五、上线前还要试什么
一、没字幕的视频:有的视频压根没字幕,有的字幕是自动生成的乱码。两种都要兜底。 二、长视频:十分钟的视频字幕几千字,两个大模型节点会不会超上下文。 三、连发:用户一次粘五条链接,五次调用会不会互相踩。
第四样是超时。插件接口慢的时候,整条链会挂在那儿,用户看到的是转圈。 四样里前两样这次没测——沙箱里只有一段六句的字幕。没测的就说没测,别写成「已验证」。
六、动手 Demo:智能体测试:三类输入,两种坏法
五句话分三条路,看判断逻辑错在哪一句;再拿三组句子量相似度,定阈值。 最后一节讲平台变了要改哪几处。
KEY2 = [u'douyin.com', u'复制打开', u'v.douyin']
def intent(t):
if any(k in t for k in KEY2): return u'调工作流'
if u'文案' in t: return u'直接答'
return u'问回去'
实跑输出:
--------------------------------------------------------------------
智能体测试:三类输入,两种坏法
--------------------------------------------------------------------
① 五句话,三条路
--------------------------------------------------------------------
| 用户说什么 | 判成 | 该走哪条 | 对不对 |
|---|---|---|---|
| 3.24 复制打开抖音,看看【英语老张】的作品 # 英语学… | 调工作流 | 调工作流 | 对 |
| https://v.douyin.com/iRNBho6u/ | 调工作流 | 调工作流 | 对 |
| 帮我写一段关于健身的文案 | 直接答 | 直接答 | 对 |
| 我昨天看了个视频挺好的 | 问回去 | 问回去 | 对 |
| 这条视频的文案帮我扒出来 | 直接答 | 问回去 | 错 |
五句判对 4 句。
错的是第五句「这条视频的文案帮我扒出来」——它含「文案」,被判成自己写,可用户要的是扒别人的。
第四句「我昨天看了个视频挺好的」没有链接,问回去比瞎猜强。
② 仿写的两种坏法
--------------------------------------------------------------------
| 类型 | 仿写结果 | 相似度 | 能发吗 |
|---|---|---|---|
| 换词 | 问题不在训练量,在于你没把动作做标准。 | 0.47 | 能发 |
| 没改 | 问题不在词汇量,在于你没把句子说完整。 | 1.00 | 判重 |
| 跑题 | 今天天气不错,适合出门走走。 | 0.00 | 不能发 |
没改的 1.00,跑题的 0.00,换词的 0.47。中间那段才是能发的。
这条检查要写进流程:相似度高于 0.85 打回重写,低于 0.2 判跑题。两个阈值都比人眼看得准。
③ 平台变了怎么办
--------------------------------------------------------------------
| 变的是什么 | 要改哪里 | 代价 |
|---|---|---|
| 解析接口换域名 | 改插件里的 url,一行 | 链不动 |
| 返回字段改名 | 改后面节点的变量引用 | 两三处 |
| 接口下线 | 换一个插件,或者改用人工上传字幕 | 整条兜底支路 |
这就是「两个插件」这个设计的好处:外部变化全被挡在插件里。
如果没有插件、把请求写进代码节点,换一次域名要改整段代码。
! 第 10.4 节那句话在这儿落地:短视频平台会变,链要能换零件。
①第一张表五行:两句调工作流、一句直接答、两句问回去。判对四句。 ②错的是第五句「这条视频的文案帮我扒出来」——含「文案」被判成自己写。 ③修法不是加关键词,是换判据:有链接才调,没链接一律问回去。 ④第二张表三组相似度:没改 1.00、跑题 0.00、换词 0.47。 ⑤第三张表三种变化:换域名改一行、字段改名改两三处、接口下线加兜底支路。
30 秒实验
- 列二十句你的用户真会说的话,人工标一遍,再让你的判断逻辑跑一遍,数错几句。
- 把阈值改成 0.9 和 0.1 各跑一次,看哪一档变紧、哪一档变松。
- 找一段真实字幕跑一遍,看两个大模型节点会不会超上下文。超了就先摘要再提炼。
常见误区
- 「链跑通了就能上线。」链通只说明走得到头。该不该调、仿写能不能发,都得另测。
- 「关键词加够就不漏判。」同义说法永远加不完。换判据比堆关键词有效。
- 「相似度合格就能发。」0.60 那一档按阈值合格,人一看还是抄。最后一道是人。
自测三问(点开对答案)
1. 这一节测的两层是什么? —— 链跑不跑得通(10.3 验过)、智能体判不判得对。第二层更重要,判错了走不到链上。 2. 判错的那句为什么错? —— 「这条视频的文案帮我扒出来」含「文案」,被判成自己写。关键词表只认字面。 3. 平台换域名要改几处? —— 一处:插件里的地址。两个插件是独立节点,外部变化全挡在插件里。第三个案例完了。下一章换行业:从一句话生成效果图,顺手把客户存下来。
- ☐ (本篇完,下一篇 11.1 项目背景与整体思路)
相关笔记
- 创建智能体调用工作流:上一个案例的智能体测试
- 项目背景与整体思路:这条链的设计思路
- 创建基础工作流:插件的位置为什么重要
- 🐦 扣子开发 AI Agent · 索引