AI Agent 成本分析：token 成本、隱藏成本與總體擁有成本

很多團隊評估 AI Agent 的成本，只看模型供應商公告的每千個 token 計費,就直接拿來估算整體預算，這個算法幾乎一定會低估實際支出。一次任務的真正成本，從來不是單一次呼叫的費用，而是輸入輸出 token、工具呼叫、重試次數、迴圈輪數疊加出來的結果，再加上維運與監控的長期支出。讀完這篇，你會知道成本結構實際上怎麼被組成、哪些是容易被忽略的隱藏成本，以及該怎麼估算更接近真實的總體擁有成本。

本質與範圍：Agent 的成本不是「呼叫一次模型多少錢」這麼簡單

模型供應商公告的計價方式，通常是「每千個輸入 token 多少錢、每千個輸出 token 多少錢」，這個數字本身沒有問題,但它描述的是單次呼叫的成本,而一個 Agent 完成一項任務,往往不只呼叫模型一次。前面文章提過的五階段迴圈（感知、規劃、工具呼叫、記憶、回饋），每一輪都可能涉及一次或多次模型呼叫，一個需要多輪才能完成的任務，實際呼叫次數可能是表面看到的好幾倍。

把成本只算到「單次呼叫多少錢」這一層，會讓預算估算系統性地偏低，而這種低估,通常要等到實際上線、帳單開出來之後才會被發現，這時候已經很難回頭調整原本的預算規劃。比較穩健的做法，是把成本拆解成幾個獨立的組成部分,分別估算,再加總起來，而不是用單一個「每次呼叫多少錢」的數字去外推整體預算。

這個拆解的價值，不只是讓估算更準確，更重要的是它能指出「這次任務的成本，主要是被哪個環節推高的」。如果只看一個籠統的總價，發現成本偏高時，往往不知道該從哪裡下手優化；但如果能拆解出輸入 token、輸出 token、工具呼叫、重試、迴圈輪數各自佔了多少比例，就能針對佔比最高的那個環節,優先投入優化資源，而不是對整套系統做籠統而沒有重點的調整。

核心成本結構：一次任務的成本如何累加

下面這張圖，畫出一次任務的成本,是怎麼從幾個獨立的組成部分，逐層累加成最終總成本的。

┌─────────────┐
│  輸入 Token  │──┐
└─────────────┘  │
┌─────────────┐  │      ┌─────────────┐
│  輸出 Token  │──┼────▶ │ 單輪呼叫成本 │
└─────────────┘  │      └──────┬──────┘
┌─────────────┐  │             │
│ 工具呼叫成本 │──┘             ▼
└─────────────┘         ┌─────────────┐
                        │  ×  迴圈輪數  │
                        └──────┬──────┘
                               ▼
                        ┌─────────────┐
                        │  ×  重試次數  │
                        └──────┬──────┘
                               ▼
                        ┌─────────────┐
                        │ 單次任務總成本│
                        └─────────────┘

這張圖裡有兩個「乘以」的環節,分別是迴圈輪數與重試次數，這兩個乘數,正是讓成本容易失控的關鍵——如果迴圈平均要跑五輪才能收斂，而其中一成的呼叫需要重試一次，實際成本就會比「單輪呼叫成本」這個基礎數字高出好幾倍，而這個倍數,在專案初期單純看供應商計價時，是完全看不出來的。

Token 成本與 API 計費：為什麼同一個任務成本可能差很多

輸入與輸出 token 的計費，看起來是固定的單價，但同一個任務的實際花費,可能因為幾個因素而差異很大。第一個因素是上下文視窗裡塞了多少內容——前面文章提過,如果短期記憶的篩選邏輯設計不好，每一輪都帶著大量不必要的歷史內容,輸入 token 的數量會持續累積，即使單價不變，總花費也會跟著墊高。第二個因素是輸出的詳細程度——要求模型輸出越詳細的推理過程或越長的回應，輸出 token 的花費就越高，這也是為什麼前面文章提到的「要求 Agent 攤開推理過程」這類除錯用的 Prompt，雖然對排查問題很有幫助,但平常正式運行時不該預設開啟，否則會大幅墊高日常營運成本。

第三個因素，是不同模型供應商、甚至同一供應商不同等級的模型，單價可能有數倍甚至數十倍的差距。很多任務不需要動用能力最強、單價也最高的模型就能完成,把所有任務都導向最強模型，是另一種常見卻容易被忽略的成本浪費,這部分留在下一節的優化策略裡進一步討論。

隱藏成本：重試、迴圈輪數與長對話的累積效應

重試造成的隱藏成本，根因通常出在前面文章提過的工具呼叫失敗處理邏輯——如果系統設計上,遇到工具呼叫失敗就直接重試,而沒有限制重試次數或排查失敗根因，一次任務可能在背後悄悄重試了好幾次才成功，每一次重試都是額外的成本，但因為最終結果是成功的，這部分多花的成本,很容易在事後被忽略。

迴圈輪數的隱藏成本，則跟前面文章提過的回饋階段收斂判斷直接相關——如果系統不容易判斷「任務現在算不算完成」，迴圈就可能跑超過原本預期的輪數才收斂,甚至在少數情況下逼近系統設定的最大輪數上限。長對話的累積效應，則是隨著對話輪數增加，上下文視窗裡累積的內容越多，即使每一輪新增的內容不多，整體輸入 token 的基礎量也會持續墊高，導致同一個任務,在對話進行到後段時,單輪呼叫的成本,比剛開始時高出不少。

總體擁有成本：除了 API 費用,還要算什麼

總體擁有成本（Total Cost of Ownership, TCO）涵蓋的範圍，遠比 API 計費帳單寬廣。除了前面提到的 token 與重試、迴圈累積成本，還該包含監控與維運的人力成本——前面文章提過,沒有監控機制，翻車事件擴大的速度會遠快於被發現的速度，而監控機制本身需要人力與系統資源持續維護；也該包含工具整合的開發與維護成本，每多串接一個外部系統，除了開發時的一次性投入，後續該系統介面變更時，也需要對應的維護工作；還該包含因應前面文章提到的各種失效模式,所設計的防護機制（時效標記、權限分級、停損規則）的建置成本。

這幾項長期成本,有一個共同特性：它們不會出現在模型供應商的帳單上，卻是讓系統長期穩定運作不可或缺的投入。很多團隊在專案啟動前的預算規劃裡，只編列了 API 費用這一項，等到系統正式運行一段時間後，才發現監控人力、工具維護、防護機制補強這些隱性投入,加總起來甚至超過 API 費用本身,但這時候預算早已編列完畢,要再追加往往需要額外的簽核流程，造成不必要的延誤。下面這張表，整理出幾個主要的成本驅動因素與對應的優化方向。

設想情境：一個團隊的成本失控案例

設想一個團隊上線了一套 Agent，協助處理內部文件摘要與分類，初期試點階段成本表現符合預期。正式上線、使用量擴大之後,團隊發現帳單金額遠超出原本的預估，排查後發現兩個原因：第一，這套系統被設計成,每次處理文件時,都會把使用者過去處理過的所有文件摘要,當成參考上下文一併帶入，隨著使用時間拉長，這份參考上下文越來越龐大，輸入 token 的花費持續墊高，卻沒有人注意到這個累積效應；第二，系統對所有文件,不分長短與複雜度,一律使用同一個能力最強的模型處理，但實際上多數文件的分類任務,並不需要動用這麼強的模型能力。

團隊後來做了兩項調整：把參考上下文,改成只保留最近一定數量的摘要,並依照重要性篩選,而不是無限制累積；同時針對文件分類這個相對簡單的任務,改用一個成本較低的模型處理，只有真正需要深度理解的摘要任務,才動用能力較強的模型。這兩項調整加起來，讓整體成本下降到接近試點階段預估的水準，而處理品質,在團隊實際比對後，並沒有因為調整而明顯下降。這個案例說明，成本失控通常不是因為任務本身需要昂貴的運算資源,而是因為架構設計上,沒有針對「累積效應」與「任務複雜度分級」做妥善的成本控制。

可用 Prompt：盤點你的 Agent 任務成本結構

下面這個 Prompt 設計給成本盤點會議使用，協助團隊系統性地檢查現有 Agent 任務的成本組成,找出可能被忽略的隱藏成本。

【角色】你是一位成本架構分析顧問，協助我盤點一套 AI Agent 任務的完整成本結構。

【任務描述】
（請描述這個 Agent 的任務內容、平均對話輪數、使用的模型等級，以及目前觀察到的帳單狀況）

【請你協助分析】
1. 這個任務目前的上下文視窗裡，平均帶入多少歷史內容？這些內容是否都是當下任務真正需要的？
2. 目前使用的模型等級，是否所有子任務都需要這個等級的能力？有沒有部分任務適合用較低成本的模型處理？
3. 重試與迴圈輪數，目前有沒有設定明確上限？實際平均輪數跟上限相比是否接近？
4. 除了 API 費用，目前有沒有把監控、維運、工具整合維護的人力成本，一併納入總體成本估算？

請給出具體的成本優化建議，並標註優先處理順序。

❓ 讀完後，先問自己這個問題

你目前估算的 AI Agent 成本，是只算了「單次呼叫的 token 費用」，還是把迴圈輪數、重試次數、上下文累積效應與長期維運成本都算進去了？

引導思路：

1. 找一筆最近的實際帳單，反推平均每個任務實際呼叫了幾次模型，跟你原本預估的次數相比差距多大。
2. 檢查目前的上下文視窗內容，隨著使用時間拉長，有沒有出現持續膨脹卻沒人注意到的情況。
3. 列出監控、維運、工具整合維護這幾項長期支出，看看它們有沒有被算進你原本的預算規劃裡。

結語：成本估算的精確度，決定預算規劃的可信度

AI Agent 的真正成本，從來不是供應商公告的單價乘以預估呼叫次數這麼簡單，而是輸入輸出 token、工具呼叫、重試、迴圈輪數與長期維運成本層層疊加出來的結果——把這些組成部分都拆解清楚，才能做出真正可信的預算規劃，而不是等帳單出來才發現估錯了。