生成式 AI 的普及帶來了無窮的可能性，但也帶來了巨大的成本壓力。美國陸軍在短短六個月內就用光了全年的 AI token 配額，這究竟是技術的進步還是資源的浪費？

現象觀察：AI token 耗盡的速度超出預期

美國陸軍近日被迫重新收緊原宣稱「不限量」的 token 配額。根據軍方信件顯示，陸軍戰鬥能力發展司令部（DEVCOM）人員被告知，AI token 消耗速度遠超預期，軍方在 6 月中旬就用光了陸軍 CIO 的 token 池，因此恢復限額，維持目前使用水位。

陸軍年度企業方案總量為 1 億個 token，單一 token 約等於 3.7 個字元。陸軍與國防部短時間內就把整年配額消耗殆盡，甚至有匿名軍方人員形容，整個陸軍幾乎為單一單位就燒掉了整年 token。

原因剖析：技術普及與管理失衡

首先，陸軍在 5 月宣布 token 「不限量」，每員工至少有每月 20 萬 token 額度，若提前用完還會自動補充。有註冊卻不常用 Ask Sage 的人，系統甚至會寄信催促他們多用。這種激勵措施雖然提高了使用率，但也導致了資源的迅速耗盡。

其次，Ask Sage 是一個可串接多種大型語言模型的多模態生成式 AI 平台，含 Alphabet Gemini、Meta Llama 與 OpenAI ChatGPT。這些模型的運算成本本身就不低，加上大規模的使用，進一步加重了負擔。

再者，陸軍曾將 Ask Sage 用於重新分類人員職務說明等行政工作，但有員工坦言，實務面不太可靠，甚至出現模型聲稱完成任務卻沒有做到。這表明，技術的實際應用效果並未達到預期，而管理上的失衡更加劇了問題。

影響評估：成本與實用性的衝突

這次限縮突顯了美軍在推動 AI 實用化時面臨的成本與管理壓力。token 與運算成本已成各界擴大應用的瓶頸，陸軍也不得不在推廣 AI 與管控預算間重新拿捏平衡。

國防部之前高調宣布，旗下近半數、約 350 萬名員工都能使用 AI，陸軍用的是 Ask Sage，可支援陸軍企業級 LLM 工作區，也獲可處理受控非機密資訊認證。然而，這一切的基礎是建立在足夠的資源支持之上。

從產業面來看，AI 技術的快速普及固然令人欣喜，但如何在資源有限的情況下實現可持續發展，仍是亟待解決的問題。這需要技術提供商、用戶和管理層共同努力，找到合理的平衡點。

趨勢預測：未來的平衡之道

未來，美軍在推廣 AI 技術的同時，勢必需要更精細的管理和更高效的資源利用。一方面，可以通過技術優化降低運算成本；另一方面，也可以通過更嚴格的使用政策，避免資源的浪費。

此外，國防部可能需要重新評估 AI 技術的實際應用效果，確保其能夠真正提升工作效率，而不是成為一種負擔。這需要更多的實踐和數據支持，才能做出明智的決策。

面對這一挑戰，我們不禁要問：未來的 AI 技術能否在成本和效益之間找到完美的平衡？這不僅是美軍需要考慮的問題，也是全球各國在推廣 AI 技術時都需面對的課題。

※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。

本文改寫整理自公開新聞來源，原始報導由科技新報發布。