這篇不比較模型誰強，也不列參數。我想講的是五個概念。老闆在決定一件 AI 專案之前，最好先心裡有數，因為它們決定這件事花多少錢，能做到哪一步，出了錯由誰兜底。
一、模型擅長什麼，邊界要自己畫
大模型讀的單位是 Token，它根據前面的內容預測接下來該出現什麼。這決定了它擅長的事情。讀材料和寫東西，它做得都不差。把一份長合同壓成幾段要點，把一堆亂糟糟的訂單備註整理成表格，也在這個範圍裡。
它不擅長的也很清楚。精確計算容易算錯，訓練之後發生的新變化它不知道。沒有依據的時候，它還可能編出一個說得很像樣的答案。
對老闆來說，邊界要事先寫清楚。能直接答的，要先查資料再答的，必須交給人的，三類分開定。
我之前所在的一家紡織產業網際網路平臺做過一個工藝問答機器人，回答依據的是平臺的工藝手冊、歷史問答和操作流程。資料裡找不到，或者找到了但相關度很低的，我在覆盤裡寫過一條改法。模型不硬答，只告訴班組長去翻哪本手冊的哪一頁。這是覆盤裡列出的重做設想，當時並沒有這個功能。
這種先從企業資料裡找相關內容、再交給模型讀的做法，叫檢索增強生成，英文是 RAG。前面一篇講過那個專案的細節。這裡只提一句，資料的品質，通常比換哪個模型更能決定答案好不好。
二、Token 是計費單位，也是帳本
Token 是模型計量的單位。輸入和輸出都按它計費，輸出的單價通常更高。一次問答的輸入，除了使用者這一句話，還包括系統指令、前面的對話，以及檢索出來塞進去的資料。
所以每多帶一段資料，每多保留一輪對話，成本都會往上走。在那個紡織問答專案裡，檢索回來的段落每次都要隨問題送給模型，段落選多少、切多長，都直接算進每次的成本。
測算的辦法不復雜。先估一次典型問答的輸入和輸出各有多少 Token，乘以每天大概會發生的次數，再乘上對應的單價，最後加上介面之外的固定費用。寫成公式，大致是這樣。
单次成本 = 输入 Token 数 × 输入单价 + 输出 Token 数 × 输出单价
單價每家都在調，這篇不寫具體數字。測算時去官方價格頁取當天的價格，把日期記在表裡，過一陣子要重新看。
我們在紡織問答裡也算過一筆帳。微調一個專門的 Embedding 模型，效果上最徹底，但需要標註大量行業資料。在當時的條件下，這筆帳不划算，最後走的是詞庫、同義詞對映這類辦法。
三、讓 AI 做事，讀和寫要分開
模型本身只會輸出文字。要它真的去做事，比如查庫存、發通知，靠的是工具呼叫，英文叫 Function Calling 或 Tool Use。做法是先登記一批工具，每個工具寫清楚名字、用途和需要的參數。模型判斷該用哪個，生成參數，等結果回來，再組織成回答。
對老闆來說，工具要分讀和寫看。讀資料的工具，出錯的代價小，查錯了可以再查一次。寫資料的工具，比如改價格、刪記錄，出錯以後往往很難收回。寫操作要有人確認，讀操作可以放寬。給 AI 的工具也要少，只給完成這件事需要的那幾個。
我自己做小產品，也守著一條類似的規矩。幾個產品共用一個雲端資料庫，產品倉庫不能直接對共享庫執行臨時 SQL，所有資料表和欄位變更都要登記到一本串行臺帳裡，按順序執行。這條規矩對誰都一樣。
四、Agent 多做了一步，成本和出錯點也跟著多
Agent 比一次問答多了一樣東西。它拿到一個目標，會自己拆步驟、調工具、看結果，再決定下一步。它能幹多步的活，代價是每一步都要花錢，每一步都可能走偏。
對老闆來說，給 Agent 設上限，比如最多跑幾輪；關鍵步驟要有人確認；失敗了轉人工，不讓它一直重試。低風險的事可以讓它自己跑，高風險的事要能看見它的過程。
我在程式設計工具裡碰到過這件事。主對話會派出子代理去搜檔案、讀程式碼。我之前寫過的一篇文章裡統計過，5 小時視窗內一共 255 次 Claude 請求，其中 195 次（約 76%）是子代理發出的。主對話寫程式碼的時候，反而沒額度可用了。原因是子代理被綁在了排第一的主力模型那一組上。
五、為什麼不把所有活交給一個模型
不同模型在能力、價格、額度和穩定性上各不相同，任何一家都會限流，也會偶爾出狀態問題。與其把所有活都交給同一個模型，不如按任務分配。
我用一個開源的 AI 閘道器 Magpie，把幾家訂閱統一接進來，再按規則分流。第一版的做法比較粗，每一組把 18 個模型排成一列，最強的排在最前面。2026 年 10 月的日誌顯示，Claude 的 5 小時額度一滿觸發限流，請求就順著列表往下滑，有八百多次落到了免費的輕量模型上。本來該交給主力模型的難活，被輕量模型做了。
第二版按場景分組，主對話一組，架構設計一組，審查一組，子代理和快速任務一組。分好組以後，還要寫規則，讓系統判斷每一輪屬於哪一類。
規則也會失效。我讓 AI 幫忙配規則時，它在一條架構設計的規則後面加了一長串排除條件，結果這條規則幾乎不再命中，命中率從約 53% 掉到了 7.5%。路由配完不等於結束，得回頭看日誌。
我在筆記裡給自己留了三個問題。這件事需要 AI 嗎？AI 搞錯了會怎樣？Token 成本算過嗎？