亞馬遜正在進行一場重大改革，以降低 Alexa+ 的營運成本。根據 Business Insider 取得的文件顯示，亞馬遜計劃減少對 Anthropic Claude 模型的依賴，改用自家模型處理請求，並通過快取和更「確定」的回應機制，減少不必要的推理運算。
降低成本的技術策略
文件時間範圍為去年底到今年初，揭示了亞馬遜的一系列技術調整。這些調整旨在提升每顆 GPU 的使用效率，使亞馬遜在不大幅增加硬體投入的情況下，以相同的算力處理更多客戶需求。具體來說，通過這些軟件調整，Alexa+ 的可用運算容量預計提升約 50%，回應時間縮短約 40%。
根據預測，Alexa+ 的 AWS 雲端成本今年可能達約 17 億美元，幾乎是前一年的三倍，且比亞馬遜設定的每月活躍用戶雲端成本目標高約 60%。即使已經找到約 4.5 億美元的潛在節省空間，亞馬遜的評估仍然認為很難達到財務目標。
從「模型更聰明」到「模型更便宜」
Alexa+ 與早期版本不同，許多回應現在需要依靠 GPU 密集型雲端服務的大型語言模型，這使得原本成本較低的語音查詢變成了昂貴的 AI 負載。隨著 Alexa+ 在美國擴大上線，亞馬遜面對的算力和支出壓力也同步升高。亞馬遜甚至考慮延後部分最昂貴的 AI 計劃，例如 Alexa 進階代理核心的 Project Moonraker。
文件還顯示，亞馬遜正在嘗試縮小 Claude 模型在 Alexa+ 中的使用範圍，將部分專門的 Alexa「Experts」從 Claude Sonnet 轉至自家模型，在合適的情況下直接使用快取回應，不再呼叫 Claude。這反映出 AI 產業的競爭焦點已從「模型更聰明」轉向「模型更便宜」。
從產業面來看，亞馬遜的這一舉措不僅是為了降低成本，更是為了在激烈的 AI 競爭中保持競爭力。隨著 AI 技術的普及，企業逐漸意識到，僅僅擁有先進的模型並不足以取得市場優勢，高效的運算資源管理和成本控制同樣重要。亞馬遜的策略可能會成為其他科技巨頭效仿的典範。
展望與影響
亞馬遜的這些技術調整不僅會影響其自身的營運成本，也可能對整個 AI 行業產生深遠影響。亞馬遜的嘗試表明，AI 模型的商業應用需要更加注重效率和成本效益。這意味著未來的 AI 競爭將更加多元化，不僅關注模型的性能，還會更加重視運算資源的利用效率。
對於其他科技公司而言，亞馬遜的經驗提供了寶貴的參考。在 AI 技術日益成熟的今天，如何在保持技術先進性的同時，實現成本的有效控制，將成為企業能否在市場中立足的關鍵。
如果你對 AI 技術的商業應用有興趣，不妨深入了解一下亞馬遜的這些調整策略，思考它們對你的行業可能帶來的影響。無論是從技術角度還是商業角度，這些經驗都值得借鏡。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
亞馬遜為什麼要重整 Alexa+ 的 AI 架構？
亞馬遜重整 Alexa+ 的 AI 架構主要是為了降低營運成本，提高每顆 GPU 的使用效率，使其在不大幅增加硬體投入的情況下，以相同的算力處理更多客戶需求。
重整後的 Alexa+ 有哪些技術調整？
重整後的 Alexa+ 將減少對 Anthropic Claude 模型的依賴，改用自家模型處理請求，並通過快取和更「確定」的回應機制，減少不必要的推理運算。
這些調整對亞馬遜的財務有何影響？
這些調整預計可以使 Alexa+ 的可用運算容量提升約 50%，回應時間縮短約 40%，但 AWS 雲端成本今年仍可能達約 17 億美元，幾乎是前一年的三倍。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
About the Author
