AI 長期視野 / 02

當 Token 成本趨近於零，什麼仍然昂貴？

模型輸出的單價持續下降，不代表 AI 的總成本會同步消失。真正昂貴的部分正移向能源、資料、系統整合、驗證、信任與組織改造；本文提出一套以可接受結果為單位的成本框架。

M.K.2026年9月4日10 分鐘閱讀

一股輕盈資料光流從小型運算節點升起，背後連結電網、資料中心、檔案庫與人類審查空間

M.K. / 文章與筆記AI 基礎設施 / 算力經濟 / 2026

當 Token 成本趨近於零，昂貴的東西不會消失，只會換位置。

模型輸入與輸出的牌價仍然重要，但它只計算「模型處理了多少資料」，沒有計算企業為了取得一個可採用、可追責、能進入真實流程的結果，還付出了多少能源、資料整理、系統整合、人工驗證、錯誤回補與制度改造成本。若 AI 只用來改寫一封低風險郵件，模型費用可能已接近可忽略；若它要影響授信、採購、醫療、公共服務或大型軟體，最貴的通常是如何證明結果值得被採用。

因此，本文處理的不是哪一家模型最便宜，也不預測某個供應商的價格。我要回答的是：當模型輸出快速降價，企業與社會真正稀缺的成本會移到哪裡？

我的答案是六個位置：能源與容量、可用資料、系統整合、驗證與安全、信任與責任，以及組織學習。要判斷 AI 是否真的變便宜，計量單位也必須從「每百萬 Token」改成「每一個被接受並完成作用的結果」。

先界定問題：Token 單價不是 AI 總成本

Token 是模型讀取與輸出內容時使用的計量單位。它很適合計費，卻不是完整的經濟單位。同樣一百萬個 Token，可以是一批不需要人工閱讀的低風險分類，也可以是數千次必須逐筆核對的理賠建議；兩者的牌價可能相近，錯誤代價與人力負擔卻完全不同。

截至 2026 年 9 月 1 日，主要供應商的官方頁面已把同一模型服務拆成多種價格：輸入、快取輸入、輸出、不同速度、非即時處理、工具呼叫與資料駐留可能分開收費。以當日公開牌價為例，OpenAI 的成本導向模型列出每百萬 Token 0.20 美元的輸入、0.02 美元的快取輸入與 1.20 美元的輸出；Google 的 Gemini 3.5 Flash-Lite 列出 0.30、0.03 與 2.50 美元；Anthropic 的 Claude Opus 5 則列出 5、0.50 與 25 美元。這些模型能力與用途不同，數字不能直接拿來判定誰「比較划算」。它們共同揭示的是：即使只看模型帳單，成本也已取決於工作形狀，而不是一個單一價格。

更長期的下降趨勢同樣清楚。Stanford 2025 AI Index 以相同能力門檻比較，估計達到 GPT-3.5 等級 MMLU 表現的推理價格，從 2022 年 11 月每百萬 Token 20 美元降到 2024 年 10 月 0.07 美元，約下降 280 倍。這是可確認的歷史事實，但不能推出「所有 AI 工作的成本也下降 280 倍」。能力門檻、輸出長度、工具使用、錯誤率與部署環境都在變。

我會用下面這個簡化式看待總成本：

每個可接受結果的總成本 =（模型、資料、工具、基礎設施、人工驗證、錯誤與改造成本）÷ 最終被接受且完成作用的結果數

分母很重要。便宜地產出一萬份沒人敢用的建議，未必比昂貴地產出一百份可靠決策更有效率。

當前可以確認的結構：六層成本正在浮現

一、能源與容量：單位更省，總需求仍可能上升

模型與晶片效率持續改善，並不保證整體用電下降。當每次使用更便宜，更多產品會加入更長上下文、更多候選答案、更多工具呼叫與更頻繁的背景處理；節省下來的單位成本，可能被新增需求吃掉。

IEA 的《Energy and AI》基準情境估計，全球資料中心用電量將從 2024 年約 415 TWh 增至 2030 年約 945 TWh，占全球用電仍不到 3%。IEA 同時明確指出不確定性很高，並以高效率、快速擴張與受阻等不同情境處理。這組數字不應被讀成確定預言；它說明的是局部瓶頸：資料中心集中在少數地點，電網、變電站、冷卻、水、土地與施工時程，都可能比模型演進得慢。

美國能源部引用 Lawrence Berkeley National Laboratory 的報告，估計資料中心占美國用電比例由 2023 年約 4.4%，到 2028 年可能升至 6.7% 至 12%。這個範圍本身就是提醒：能源成本不是固定附加費，而是地點、時間、電網容量與建設進度共同形成的限制。

二、可用資料：資料很多，不等於資料能被使用

企業通常不缺文件，缺的是具備來源、權限、版本、品質與保存規則的可用資料。把合約、產品紀錄、客戶對話或內部知識接入模型之前，必須先回答：誰擁有它？誰可以看？哪一版有效？錯誤如何更正？資料離開原系統後，權限是否仍然成立？

這一層的成本包括清理重複資料、建立可追蹤來源、處理個資與機密、維持語意一致，以及在資料更新後重新檢查結果。模型讀取資料的費用可能極低，但決定哪些資料值得讀、可以讀、讀錯時如何發現，仍需要領域專業與長期維護。

三、系統整合：模型回答只是流程中間的一步

真實工作很少在文字輸出時結束。一個客服建議要連接客戶紀錄與工單；一個採購判斷要查庫存、價格與供應商條款；一段程式碼要通過測試、審查與發布控制。每多一個外部工具，就多一組權限、失敗狀態、重試規則、逾時、版本差異與紀錄要求。

這也解釋為什麼「較少人工作」不必然等於「較低總成本」。如果原本由人腦隱性完成的例外判斷，現在必須寫成規則、測試與介面，前期整合費用可能先上升。長期是否下降，取決於流程能否穩定重複，而不是展示時能否完成一次漂亮任務。

四、驗證與安全：越重要的結果，越不能只抽查

AI 的輸出不是傳統軟體的固定結果。同一套系統可能在常見情境表現良好，卻在少數語言、罕見案例、新政策或對抗性輸入下失敗。NIST 的 AI Risk Management Framework 與其 AI 專門文件，把治理、情境盤點、量測與管理視為貫穿生命週期的工作，而不是上線前的一次檢查。

因此，驗證成本包括建立代表性測試集、定義可接受錯誤、紅隊測試、監測變化、保存決策紀錄、處理事件，以及模型更新後重新評估。高風險流程還需要人工覆核與申訴機制。模型愈便宜，企業可能愈常呼叫；如果驗證方式沒有同步改善，待核對的輸出反而更多。

五、信任與責任：錯誤成本不在模型帳單上

如果 AI 寫錯一封內部摘要，修正成本有限；如果它讓客戶收到錯誤退款、拒絕合理申請、洩露資訊或做出歧視性排序，成本可能成為法律責任、商譽損失與關係破裂。這些成本通常在事件發生後才被看見，也很難平均分攤到每個 Token。

可信系統需要清楚的責任鏈：誰可以批准，誰收到警示，誰能覆寫，誰向受影響的人解釋，供應商改版時誰重新確認。這不是把所有工作都留給人，而是讓人類責任與系統能力有清楚邊界。

六、組織學習：工具便宜，改變合作方式仍然昂貴

目前最有價值的企業證據，恰好顯示成效高度依賴情境。NBER 對 5,179 名客服人員的研究發現，AI 協助使每小時解決問題數平均提高約 14%，較新與較低技能人員改善更大。Microsoft Research 彙整 Microsoft、Accenture 與一家 Fortune 100 企業共 4,867 名開發者的三個隨機實驗，報告完成任務數增加 26.08%，但也提醒個別實驗訊號有雜訊。

另一邊，METR 讓 16 名熟悉大型開源專案的資深開發者完成 246 項真實任務，發現允許使用 2025 年初的 AI 工具時，完成時間反而增加 19%。研究者也強調，這個結果只適用於特定工具、特定時點與高度熟悉既有程式庫的受試者。

這些結果不是互相取消。它們共同支持一個較保守的結論：AI 的價值不是模型單獨攜帶的固定百分比，而是由任務結構、使用者經驗、品質門檻、回饋速度與組織流程共同決定。訓練、工作重新分配、績效指標與主管責任，都是總成本的一部分。

我的分析：稀缺會從「產出」移向「接受」

當大量文字、程式、圖像或建議都能低價取得，供給本身便不再是主要稀缺。下一個稀缺的是注意力：誰來判斷哪個結果重要？接著是驗證：怎麼知道它正確？再來是責任：錯了由誰承擔？最後是組織能力：能否把好的結果穩定變成行動？

這類轉移在其他通用技術中曾出現。運算儲存變便宜後，企業並沒有不再支付科技成本，而是把更多錢花在軟體、資安、資料治理與人才。類比的限制也很清楚：AI 輸出會參與判斷，品質不像儲存容量那樣容易量測，所以驗證與責任可能占更高比例。

我目前認為未來五到十年會同時出現三種情境：

標準化工作真正大幅降價。 有清楚輸入、可自動檢查、失敗代價低的任務，會因便宜模型、快取、非即時處理與小型本地模型而接近公用能力。
高風險工作維持昂貴。 模型費用下降，但資料權利、領域驗證、持續監測、保險與責任成本成為主體。競爭優勢來自可信流程，而不是呼叫次數。
總支出因需求擴張而上升。 每次使用更便宜，卻有更多裝置、代理與背景任務持續運作；單位成本下降與能源、容量、審查總支出上升可以同時成立。

我的立場是：企業不應用「每百萬 Token 的價格」決定是否擴大使用，而應先選定可量測的完成結果，建立有 AI 與沒有 AI 的基準，再比較完整成本與錯誤分布。若分母只是輸出數量，系統會被鼓勵製造更多待處理工作；若分母是被接受並完成作用的結果，模型選擇、流程設計與人工角色才會回到同一張帳上。

接下來 12–24 個月值得觀察什麼

要判斷上述看法是否成立，我會追蹤六類可驗證訊號：

企業是否開始公開「每個完成案例」或「每次成功解決」的成本，而不只報告使用人數與 Token 數。
主要供應商的快取、非即時處理與小型模型價格，是否持續下降，同時工具、搜尋、資料駐留與高速服務費用占比是否上升。
大型導入是否能在模型更新後維持相同品質，而不必反覆投入大量人工重測。
AI 事件、人工回補、客訴與申訴的比率，是否隨使用規模下降，而不是只看平均準確率。
資料中心在電網排隊、用電協議與地方建設上的等待時間，是否成為比晶片供應更慢的限制。
不同組織在相同工具下的績效差距是否縮小；若差距持續擴大，稀缺的就更可能是組織能力。

什麼證據會推翻我的判斷？

如果未來兩年出現以下證據，我會調低「互補成本仍昂貴」的判斷：成熟企業在多個高風險領域都能證明，每個可接受結果的端到端成本隨模型牌價近似比例下降；人工覆核、事故、申訴與整合維護沒有轉移到其他部門；模型更換後不需大規模重測；而且能源與容量需求能在使用大增時保持近乎平坦。

相反地，如果模型費用在科技預算中的占比下降，資料治理、資安、整合、人力與能源支出卻上升，便支持成本只是轉移，而不是消失。

這裡仍有重大不確定性。供應商牌價可能快速改變，企業折扣通常不公開，能源預測的範圍很寬，生產力研究也受任務與時點限制。本文提出的是可檢驗的成本框架，不是投資建議，也不應取代特定產業的法律、資安或財務評估。

常見問題

Token 成本真的會降到零嗎？

經濟上的「趨近於零」不必等於免費，而是相對於人力、整合與錯誤成本變得很小。高性能、低延遲、長上下文與特殊工具仍可能有明顯價格；最便宜模型的下降也不代表所有能力層級同步免費。

模型變便宜，企業為什麼不能直接省下同樣比例？

因為模型帳單只是成本鏈的一段。若使用量增加、資料需要整理、流程要重做、輸出需要核對，節省可能被其他支出抵銷。真正要比較的是每個成功完成案例的總成本。

小型模型或本地部署能解決成本問題嗎？

它們可以降低部分傳輸、延遲與外部服務費用，也可能改善隱私與可控性。但硬體、更新、監測、資安與維運會轉到組織內部；是否更便宜取決於穩定使用量與團隊能力。

人工驗證會不會讓 AI 永遠沒有經濟效益？

不一定。低風險、可自動檢查的工作可以只處理例外，高風險工作則可讓人集中在少數關鍵決定。問題不是有沒有人，而是人工注意力是否被配置到最能降低錯誤代價的位置。

企業現在最應該建立哪一個指標？

先建立「每個被接受並完成作用的結果之總成本」，並同時記錄人工時間、失敗、重做、申訴與事件。只有把分母從輸出量改成有效結果，才看得出降價究竟帶來節省，還是帶來更多待處理工作。