亞馬遜正在重新調整其 AI 助手 Alexa+ 的架構,以降低營運成本。根據 Business Insider 取得的文件,亞馬遜計劃減少對 Anthropic Claude 模型的依賴,轉而使用自家開發的模型,以提高運算效率和降低成本。
事實陳述
文件顯示,亞馬遜希望通過快取技術和更「確定」的回應機制,減少不必要的推理運算。這些調整預計可以提升每顆 GPU 的使用效率約 50%,並縮短回應時間約 40%。然而,即使已經找到約 4.5 億美元的潛在節省空間,亞馬遜仍難以達成其財務目標。
Alexa+ 的雲端成本今年可能達到約 17 億美元,幾乎是前一年的三倍,且比亞馬遜設定的每月活躍用戶雲端成本目標高約 60%。為了應對這一挑戰,亞馬遜甚至考慮延遲部分最昂貴的 AI 計畫,例如 Alexa 進階代理核心的 Project Moonraker。
各方反應
亞馬遜的這一舉措反映了 AI 產業的競爭焦點從「模型更聰明」轉向「模型更便宜」。根據文件,亞馬遜正在評估 Nvidia GPU 與自家 Trainium 晶片哪個是更低成本的運算方案。
另一方面,Anthropic 對此舉可能感到不安,因為這意味著其 Claude 模型在 Alexa+ 中的使用範圍將被縮小。這對於 Anthropic 的業務影響不容小覷,畢竟 Claude 是其主要收入來源之一。
背景補充
Alexa+ 與早期版本不同,許多回應現在需要依靠 GPU 密集型雲端服務的大型語言模型,這使得原本成本較低的語音查詢變成了昂貴的 AI 負載。隨著美國擴大上線,亞馬遜面臨的算力和支出壓力也同步升高。
文件還顯示,亞馬遜正將部分專門的 Alexa「Experts」從 Claude Sonnet 轉至自家模型,並在適合的情況下直接使用快取回應,不再呼叫 Claude。這表明亞馬遜在努力提高運算效率的同時,也在努力維持用戶體驗。
從產業面來看,亞馬遜的這一波調整不僅是為了節省成本,更是為了在激烈的 AI 競爭中保持競爭力。隨著 AI 技術的普及,企業將更加注重成本效益,而不是一味追求模型的先進性。未來,AI 產業的競爭可能會更多地集中在運算效率和成本控制上。
亞馬遜的這一舉措對於整個 AI 行業具有重要的參考價值。其他科技巨頭如谷歌、微軟和蘋果也可能會效仿,進一步推動 AI 技術的商業化和普及。
本文改寫整理自公開新聞來源,原始報導由科技新報發布。
常見問題 FAQ
亞馬遜為什麼要調整 Alexa+ 的架構?
亞馬遜調整 Alexa+ 的架構主要是為了降低成本和提高運算效率。隨著 AI 成本的上升,亞馬遜需要找到更經濟的解決方案。
Alexa+ 的雲端成本是多少?
Alexa+ 的雲端成本今年可能達到約 17 億美元,幾乎是前一年的三倍。
亞馬遜將如何減少對 Anthropic Claude 模型的依賴?
亞馬遜計劃使用自家開發的模型,並通過快取技術和更「確定」的回應機制,減少不必要的推理運算。
※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。

