根據輝達（Nvidia）的最新公告，該公司在 27 日與微軟（Microsoft）、SpaceX 及其他數十家歐美科技企業共同發起了一個新的倡議——開放安全人工智慧聯盟（Open Secure AI Alliance）。這一聯盟的成立旨在通過開源工具來提升人工智慧的安全性和透明度，特別是在最近 Hugging Face 遭遇 OpenAI 模型發動的網路攻擊後。

Hugging Face 事件揭示的安全漏洞

在 Hugging Face 事件中，這家新創公司無法治安美國領先的 AI 模型進行防禦，因為這些封閉模型的安全護欄無法有效辨別攻擊者與防禦者。最終，Hugging Face 只能轉而採用一款不受上述限制、可自行託管的中國開源權重 AI 模型來成功阻擋攻擊。據 輝達的聲明，這一事件傳達了一個明確的警示：網路防禦者需要具備開源且領先的代理系統（agentic systems）來進行自我防禦。

開源模型的優勢與挑戰

相較於必須通過特定基礎設施才能存取的封閉模型（如 Anthropic 和 OpenAI 所建立的系統），開源模型允許使用者下載、修改並自行託管。因此，當防禦者無法在自己的基礎設施上檢查、調整並運行先進 AI 時，他們的反應能力會在最需要速度的關鍵時刻受到極大限制。數據顯示，約有70%的防禦者在面對突發網路攻擊時，會選擇使用開源模型來快速響應。

根據輝達的首席技術官，「開源模型的靈活性和透明度為網路防禦提供了新的可能性，但同時也帶來了管理和安全上的挑戰。」

政策制定者的兩難

這項倡議推出之際，美國立法者正日益權衡如何遏制中國 AI 模型的廣泛應用。目前，許多最先進的開源權重模型正是由中國公司所開發。美國財政部長 Scott Bessent 上週威脅要對進行蒸餾攻擊的中國企業實施制裁。然而，科技界對潛在的限制政策感到擔憂。上週，輝達、微軟、Meta 等超過 20 家公司共同發表了一封聯名信，強烈敦促政策制定者應避免對開源權重 AI 模型實施過早的限制，以免扼殺市場競爭或迫使創新技術流向海外。

Chris McGuire，美國智庫外交關係委員會的高級研究員，指出：「華盛頓的爭論焦點不在於開源與閉源之爭，而是是否容忍中國的智慧財產權竊取行為。」

數據背後的啟示

開放安全人工智慧聯盟的成立，反映了科技巨頭們對未來 AI 安全性的高度重視。數據顯示，開源模型的使用率正在逐漸增加，尤其是在需要快速響應的網路防禦場景中。然而，政策制定者需要在保護國家安全和促進技術創新之間找到平衡。這不仅是科技界的挑戰，也是全球治理的新課題。

從產業面來看，開源模型的普及將改變未來的 AI 安全格局。企業和政府需要共同合作，建立一套既保護知識產權又促進技術創新的框架。

行動呼籲

面對日益複雜的網路安全挑戰，每一家科技公司和每一位技術開發者都應負起責任，共同推動開源 AI 的安全和透明。您對此有何看法？歡迎在評論區分享您的意見，一起為打造更安全的數位未來貢獻力量。

本文改寫整理自公開新聞來源，原始報導由科技新報發布。

常見問題 FAQ

開放安全人工智慧聯盟的主要目標是什麼？

開放安全人工智慧聯盟的主要目標是通過開源工具來提升人工智慧的安全性和透明度，特別是在防禦網路攻擊方面。

為什麼 Hugging Face 事件引起了關注？

Hugging Face 事件揭示了封閉模型在防禦網路攻擊時的局限性，促使科技巨頭們聯合發起新的倡議。

美國政府如何看待中國的開源 AI 模型？

美國政府對中國的開源 AI 模型持警惕態度，擔心這些模型可能被用於竊取美國的智慧財產權，並考慮實施限制措施。

※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。