亞馬遜 Alexa+ 大改版:自家模型取代 Anthropic,AI 成本大降 50%

亞馬遜正在經歷一場技術變革,旨在通過重新調整 Alexa+ 的 AI 架構,大幅降低營運成本。根據 Business Insider 取得的文件,亞馬遜計劃減少對 Anthropic Claude 模型的依賴,轉而使用自家的 AI 模型,以提高運算效率並降低雲端成本。

亞馬遜正在經歷一場技術變革,旨在通過重新調整 Alexa+ 的 AI 架構,大幅降低營運成本。根據 Business Insider 取得的文件,亞馬遜計劃減少對 Anthropic Claude 模型的依賴,轉而使用自家的 AI 模型,以提高運算效率並降低雲端成本。

降低依賴,提高效率

文件顯示,亞馬遜希望通過這些調整,提升每顆 GPU 的使用效率,不大幅增加硬體投資,而是利用現有算力處理更多客戶請求。具體來說,亞馬遜預計通過軟體優化,使 Alexa+ 的可用運算容量提升約 50%,回應時間縮短約 40%。

這項調整的背景是,Alexa+ 的 AWS 雲端成本在今年可能達到約 17 億美元,幾乎是前一年的三倍,且比亞馬遜設定的每月活躍用戶雲端成本目標高約 60%。即使已找到約 4.5 億美元的潛在節省空間,評估仍認為很難達成財務目標。

模型轉換,成本控制

Alexa+ 與早期版本不同,許多回應現在需要 GPU 密集型雲端服務的大型語言模型,這使得原本成本較低的語音查詢變得更加昂貴。隨著美國市場的擴大,亞馬遜面臨的算力和支出壓力也在不斷增加,甚至考慮延後部分最昂貴的 AI 計畫,如 Alexa 進階代理核心的 Project Moonraker。

亞馬遜還嘗試將 Claude 模型在 Alexa+ 中的使用範圍縮小,將部分專門的 Alexa「Experts」從 Claude Sonnet 轉至自家模型。在適合的情況下,直接使用快取回應,避免不必要的模型呼叫。

從產業面來看,亞馬遜的這一舉措反映了 AI 產業的競爭焦點,從「模型更聰明」轉向「模型更便宜」。這不僅是亞馬遜為了降低成本而做出的調整,也是整個行業趨勢的一部分。隨著 AI 技術的普及,如何在保持性能的前提下控制成本,成為了企業面臨的重要課題。

未來展望

亞馬遜的這些調整不僅會影響其自身的營運成本,也可能對整個 AI 行業產生影響。隨著更多企業開始重視成本效益,AI 模型的設計和應用將更加注重經濟性。亞馬遜也在評估 Nvidia GPU 與自家 Trainium 晶片哪個是更低成本的運算方案,這可能會引發新的技術競爭。

對於一般消費者而言,這些調整意味著未來的 Alexa+ 將更加高效、快速,同時保持相同的智能水平。亞馬遜的這些努力,最終目的是為了提供更好的用戶體驗,同時控制營運成本。

如果你對 AI 技術的未來發展感興趣,不妨關注亞馬遜的這些調整,看看它們如何影響整個行業。你對亞馬遜的這一舉措有何看法?歡迎在留言區分享你的意見。

本文改寫整理自公開新聞來源,原始報導由科技新報發布。

常見問題 FAQ

亞馬遜為什麼要調整 Alexa+ 的 AI 架構?

亞馬遜調整 Alexa+ 的 AI 架構的主要原因是為了降低營運成本,特別是雲端計算的成本。通過使用自家模型和提高運算效率,亞馬遜希望在不增加硬體投資的情況下,處理更多的客戶請求。

這些調整對普通用戶有什麼影響?

這些調整將使 Alexa+ 更加高效、快速,同時保持相同的智能水平。普通用戶可以期待更快的回應時間和更好的使用體驗。

亞馬遜如何實現這些調整?

亞馬遜主要通過兩種方式實現這些調整:一是減少對 Anthropic Claude 模型的依賴,轉而使用自家的 AI 模型;二是通過快取和更「確定」的回應機制,減少不必要的推理運算。

※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。