这篇不比较模型谁强，也不列参数。我想讲的是五个概念。老板在决定一件 AI 项目之前，最好先心里有数，因为它们决定这件事花多少钱，能做到哪一步，出了错由谁兜底。
一、模型擅长什么，边界要自己画
大模型读的单位是 Token，它根据前面的内容预测接下来该出现什么。这决定了它擅长的事情。读材料和写东西，它做得都不差。把一份长合同压成几段要点，把一堆乱糟糟的订单备注整理成表格，也在这个范围里。
它不擅长的也很清楚。精确计算容易算错，训练之后发生的新变化它不知道。没有依据的时候，它还可能编出一个说得很像样的答案。
对老板来说，边界要事先写清楚。能直接答的，要先查资料再答的，必须交给人的，三类分开定。
我之前所在的一家纺织产业互联网平台做过一个工艺问答机器人，回答依据的是平台的工艺手册、历史问答和操作流程。资料里找不到，或者找到了但相关度很低的，我在复盘里写过一条改法。模型不硬答，只告诉班组长去翻哪本手册的哪一页。这是复盘里列出的重做设想，当时并没有这个功能。
这种先从企业资料里找相关内容、再交给模型读的做法，叫检索增强生成，英文是 RAG。前面一篇讲过那个项目的细节。这里只提一句，资料的质量，通常比换哪个模型更能决定答案好不好。
二、Token 是计费单位，也是账本
Token 是模型计量的单位。输入和输出都按它计费，输出的单价通常更高。一次问答的输入，除了用户这一句话，还包括系统指令、前面的对话，以及检索出来塞进去的资料。
所以每多带一段资料，每多保留一轮对话，成本都会往上走。在那个纺织问答项目里，检索回来的段落每次都要随问题送给模型，段落选多少、切多长，都直接算进每次的成本。
测算的办法不复杂。先估一次典型问答的输入和输出各有多少 Token，乘以每天大概会发生的次数，再乘上对应的单价，最后加上接口之外的固定费用。写成公式，大致是这样。
单次成本 = 输入 Token 数 × 输入单价 + 输出 Token 数 × 输出单价
单价每家都在调，这篇不写具体数字。测算时去官方价格页取当天的价格，把日期记在表里，过一阵子要重新看。
我们在纺织问答里也算过一笔账。微调一个专门的 Embedding 模型，效果上最彻底，但需要标注大量行业数据。在当时的条件下，这笔账不划算，最后走的是词库、同义词映射这类办法。
三、让 AI 做事，读和写要分开
模型本身只会输出文字。要它真的去做事，比如查库存、发通知，靠的是工具调用，英文叫 Function Calling 或 Tool Use。做法是先登记一批工具，每个工具写清楚名字、用途和需要的参数。模型判断该用哪个，生成参数，等结果回来，再组织成回答。
对老板来说，工具要分读和写看。读数据的工具，出错的代价小，查错了可以再查一次。写数据的工具，比如改价格、删记录，出错以后往往很难收回。写操作要有人确认，读操作可以放宽。给 AI 的工具也要少，只给完成这件事需要的那几个。
我自己做小产品，也守着一条类似的规矩。几个产品共用一个云端数据库，产品仓库不能直接对共享库执行临时 SQL，所有数据表和字段变更都要登记到一本串行台账里，按顺序执行。这条规矩对谁都一样。
四、Agent 多做了一步，成本和出错点也跟着多
Agent 比一次问答多了一样东西。它拿到一个目标，会自己拆步骤、调工具、看结果，再决定下一步。它能干多步的活，代价是每一步都要花钱，每一步都可能走偏。
对老板来说，给 Agent 设上限，比如最多跑几轮；关键步骤要有人确认；失败了转人工，不让它一直重试。低风险的事可以让它自己跑，高风险的事要能看见它的过程。
我在编程工具里碰到过这件事。主对话会派出子代理去搜文件、读代码。我之前写过的一篇文章里统计过，5 小时窗口内一共 255 次 Claude 请求，其中 195 次（约 76%）是子代理发出的。主对话写代码的时候，反而没额度可用了。原因是子代理被绑在了排第一的主力模型那一组上。
五、为什么不把所有活交给一个模型
不同模型在能力、价格、额度和稳定性上各不相同，任何一家都会限流，也会偶尔出状态问题。与其把所有活都交给同一个模型，不如按任务分配。
我用一个开源的 AI 网关 Magpie，把几家订阅统一接进来，再按规则分流。第一版的做法比较粗，每一组把 18 个模型排成一列，最强的排在最前面。2026 年 10 月的日志显示，Claude 的 5 小时额度一满触发限流，请求就顺着列表往下滑，有八百多次落到了免费的轻量模型上。本来该交给主力模型的难活，被轻量模型做了。
第二版按场景分组，主对话一组，架构设计一组，审查一组，子代理和快速任务一组。分好组以后，还要写规则，让系统判断每一轮属于哪一类。
规则也会失效。我让 AI 帮忙配规则时，它在一条架构设计的规则后面加了一长串排除条件，结果这条规则几乎不再命中，命中率从约 53% 掉到了 7.5%。路由配完不等于结束，得回头看日志。
我在笔记里给自己留了三个问题。这件事需要 AI 吗？AI 搞错了会怎样？Token 成本算过吗？