研究顧問機構 Gartner 今日（30日）發布最新警告，指出儘管人工智慧（AI）推論代幣的單位價格預計將大幅下滑，但由於 AI 應用模式的根本性轉變，企業在 AI 方面的總體支出負擔恐將持續存在，甚至不減反增。這項洞察提醒企業，不應僅以單一成本下降來評估其 AI 策略的未來走向，而需更宏觀地審視潛在的成本陷阱。
AI成本效益的雙面刃：單價驟降與總額攀升
根據 Gartner 的預測，人工智慧運算成本將迎來一波顯著的下降趨勢。他們估計，到了 2030 年，一個擁有一兆參數的大型語言模型（LLM）進行推論的費用，相較於 2025 年將銳減超過 90%。不僅如此，相同規模模型的效率預計更可提升高達百倍，這無疑是技術進步的巨大勝利。
有趣的是，這項成本效益的提升並非憑空而來。Gartner 高級總監分析師 Will Sommer 指出，主要歸因於半導體與基礎設施的效率改進、模型設計的創新、晶片利用率的提高，以及推論專用半導體的擴展和邊緣裝置的廣泛應用。這些技術的迭代，共同推動了 AI 運算單價的下探。
「這項成本效益的提升主要歸因於半導體與基礎設施效率的改進、模型設計的創新、晶片利用率的提高，以及推論專用半導體的擴展和邊緣裝置的廣泛應用。」Gartner 高級總監分析師 Will Sommer 如此表示。
AI代理普及化：重塑企業支出結構
不過話說回來，單一 AI 代幣單位價格的下跌，卻不直接等同於企業 AI 總成本的降低，這正是許多企業容易掉入的迷思。關鍵在於，AI 代理（agent）的普及正在從根本上重塑整體支出結構。目前，每項任務的 AI 代幣使用量已比過去增加 5 到 30 倍，這代表即使單位成本大幅下降，總體使用量的激增仍可能導致企業的推論費用總額不減反增。
分析師 Sommer 進一步警示，雖然基本的 AI 功能正朝向幾乎零成本的方向發展，但用於進階推論（advanced reasoning）的運算資源與系統仍然有限。他強調，企業不應將架構上的效率不足，誤解為通用代幣價格下跌就代表進階推論能力普及。說真的，如果企業僅依賴便宜的代幣成本來掩蓋系統架構的缺陷，未來在代理導向的 AI 擴展階段，恐將面臨發展上的嚴峻限制。
這就好像，雖然每滴水變便宜了，但你卻開啟了更多水龍頭，而且每個水龍頭的流量都變大了，最終水費自然還是會暴增。
迎戰未來AI競爭力：多模型協作策略
面對這波 AI 應用模式的典範轉移，Gartner 建議企業必須跳脫單一模型的思維框架，轉而採行「多模型協作」（multi-model orchestration）策略，這將是未來 AI 競爭力的關鍵。企業應建立一種分層架構，更智慧地分配 AI 資源，以達到成本效益與性能表現的雙贏。
具體而言，多模型協作策略的核心理念是將不同複雜度的任務，交由最適合的 AI 模型來處理。關鍵要點如下：
- 將重複性且簡單的任務，分配給小型或特定領域模型處理，這能有效降低運算成本。
- 高成本、高效能的進階模型，則應選擇性地僅用於處理複雜且高附加價值的工作，確保資源的最佳利用。
- 透過協調不同模型的分工合作，企業可以避免資源浪費，同時提升整體 AI 解決方案的效率與精準度。
展望與影響
總體而言，Gartner 的這項示警揭示了 AI 發展的深層挑戰與機遇。隨著 AI 技術日益普及，企業在擁抱其帶來巨大潛力的同時，也必須對潛藏的成本結構變化保持高度警覺。未來的贏家，將是那些能夠精準理解 AI 經濟學、並有效部署多模型協作策略的企業。這不僅關乎技術選型，更是一場關於資源優化與策略佈局的智慧競賽，其結果將深遠影響企業在數位轉型浪潮中的競爭優勢。
About the Author
