配图:LittleDot 专栏概念插画,AI 生成。
聊到 GPT‑7,很多人先问它有多强。我想到的另一个问题是:如果它真的更强了,平时用 AI 做事,会不会更划算?
这里说的划算,得等一件事做完再算。一次调用便宜,失败三次再换模型,最后还要人来收拾,不一定省钱。一次调用贵一点,如果能把复杂问题处理清楚,也可能更合适。光看每次请求的价格,很容易漏掉后面的返工。
我留意到 Fireside Alpha 的 Boris Power 谈话笔记里,除了 GPT‑7、GPT‑8,还有大模型指导小模型的讨论。这让我觉得,下一代研究带来的变化,未必只体现在那个最贵、最醒目的型号上。日常模型如果跟着变好,也很值得看。
这里我说的是自己的期待,不是 GPT‑7 已经公布了某种价格或能力。它的实际收费、速度和可用额度,现在还不能替它填上。
不是每一件事,都值得开最贵的模型
做一个网站,会遇到很不一样的任务。改按钮文案,读一小段日志,整理几条链接,和判断一个数据库迁移方案,花的脑力不一样。如果每一步都用同一个昂贵模型,账单容易变大;如果复杂问题也只图便宜,后面又可能补很多时间。
我希望以后的工具能把这件事做得更顺手。简单的活,用一个够用、反应快的模型。碰到真的难题,再请更强的模型来判断。切换时把已经读过的资料和做过的决定带好,让我少重复一遍背景。
但这种选择不能悄悄发生。特别是付费服务,我想知道这次实际用了什么模型,花了多少钱,失败重试有没有计费。模型可以替我挑,账总得让我看明白。要不然,月底面对一个总数,连哪里值得调整都不知道。
如果我是工具的开发者,我也会先把几种常见任务跑一遍。完成率怎样,平均要重试几次,一件事最终花多久、花多少。把这些放在一起,才能判断一个小模型到底是便宜,还是只是单次报价好看。
这也是我看 GPT‑7 消息时,愿意顺便看小模型的原因。假如更强的大模型能够帮助日常模型学会更稳妥地做事,我们未必每天都要亲自调用那个最大的型号,仍然可能得到一点进步。
等下一代出来,我想比较两张账单。一张是调用记录,另一张是自己花掉的时间。两张都少一点,事情又做得更好,这次升级才算让我高兴。到那时,替我省钱的,可能恰好是产品列表里那个不太起眼的小模型。