🧡 附录
📄 一句话概括

换模型的本质是把出口指向另一个地址——操作上只改三行,但换之前有四件事必须先确认,少一件都比不换更难用。

📝 本节和前面几节的关系

正文十四章走到了头。从这份附录起是随时要翻的参考,不必从头读。第一份先解决最实际的问题:怎么把工具接到国内模型上。

一、为什么要考虑国内模型

三个很实际的理由:访问更稳(不用为网络发愁)、计费更可控(按量付费,小项目花不了多少)、合规上更省心。 但有一条前提要摆在前头:能用不等于一样好。 差别恰恰在最吃判断力的那几件事上——越靠它替你想,差距越明显。

二、接口兼容是怎么回事

工具默认连的是官方。而大多数国内平台提供的是兼容接口——把自家模型包装成同一套调用格式。 所以【换模型】这件事,本质不是换工具,是把出口指向另一个地址。 这带来一个很省事的结果:你学的东西不变——指令怎么写、项目怎么组织,全都不用重学。

三、要改的就三样

接口地址:从官方换到你选的那家(每家都有自己的地址)。 密钥:在他家平台上申请一串 key——别写进代码,写进配置或环境变量。 模型名:填他家的模型标识——同一个平台往往有好几个档,按任务挑。 为什么密钥不能进代码:代码会被提交进版本库,配置不会。

四、换之前先确认四件事

工具调用:最关键——它大半活靠调工具改文件,这一项不支持基本没法用。 上下文长度:写大项目要够长,太短会中途忘掉前面说过的话。 流式输出:没有它会一个字一个字地等,慢到没法配合。 计费方式:输入和输出分别计价——多半是输入那一头更花钱(第 10.2 节)。 四件里任何一件不确定,先别换——不然会发现在最要紧的地方卡住。

五、什么时候别换

结论不是【二选一】,是两套都配好,按任务切。 便宜好用的干粗活;靠判断的那几步,用它最稳的那一套。 换句话说:省钱要省在能省的地方,别省在判断上。

六、动手 Demo:换一个模型,要改的就三样

下面把要改的三行、以及换之前必须先确认的四件事排开。

TH([u"要改的", u"填什么"], [18, 56])
T([u"接口地址", u"从官方换到你选的那家(每家都有自己的地址)"],
  [18, 56])
T([u"密钥", u"**别写进代码、写进配置**"], [18, 56])

实跑输出:

--------------------------------------------------------------------
换一个模型,要改的就三样
--------------------------------------------------------------------

大多数国内平台提供的是**兼容接口**——把自家的模型包装成同一套调用格式。
所以【换模型】这件事,落到操作上**只有三行要改**:

  要改的       填什么
  ----------------------------------------------------------------
  接口地址     从官方换到你选的那家(每家都有自己的地址)
  密钥         在他家平台上申请一串 key,**别写进代码、写进配置**
  模型名       填他家的模型标识——同一个平台往往有好几个档

换之前,**有四件事必须先确认**,否则换完会发现更难用:

  先确认         为什么它是硬条件
  --------------------------------------------------------------------
  工具调用       **最关键**——它大半活靠调工具改文件,不支持基本没法用
  上下文长度     写大项目要够长,太短会中途忘掉前面说过的话
  流式输出       没有它会一个字一个字地等,慢到没法配合
  计费方式       **输入和输出分别计价**——多半是输入那头更花钱

一句提醒:**能用不等于一样好**。任务越靠判断力,越不要为了省钱换。

稳妥的做法是**两套都配好,按任务切**——
便宜好用的干粗活,**靠判断的那几步,用它最稳的那一套**。

能用不等于一样好——任务越靠判断力,越不要为了省钱换。 稳妥做法:两套都配好,按任务切。便宜好用的干粗活,靠判断的那几步用最稳的一套。

30 秒实验

  1. 打开你现在的配置,把三行的名字写出来:接口地址、密钥、模型名各在哪儿。
  2. 挑一个你每周都要跑的小任务,在两套里各跑一次,比时间和结果。

常见误区

  1. 以为换模型要重学一遍。指令和项目组织都不变,变的只有出口地址。
  2. 把密钥写进代码再提交。代码会进版本库,配置不进。
自测三问(点开对答案) 1. 换国内模型,操作上要改哪三样? —— 接口地址、密钥、模型名。 2. 换之前必须先确认的四件事是什么? —— 工具调用、上下文长度、流式输出、计费方式。 3. 最稳妥的用法是什么? —— 两套都配好、按任务切——粗活交给便宜的,靠判断的交给最稳的。

相关笔记