關鍵數字：Anthropic 執行長達里奧·阿莫代（Dario Amodei）警告，釋出頂尖 AI 模型的權重可能會對 Web3 領域帶來無法彌補的危害。

近日，人工智慧公司 Anthropic 的執行長達里奧·阿莫代再次強調，釋出頂尖 AI 模型（frontier AI model）的核心參數，並非如部分人士所稱，能更容易建立安全防護網。他指出，一旦這些模型的權重公開，營運方將失去撤銷存取、修補漏洞或監控使用情況的能力，這可能帶來嚴重的負面影響。

達里奧·阿莫代區分了小型開放模型與頂尖系統的差異。他承認，小型開放模型在研究和競爭上確實能帶來益處。然而，他特別擔憂的是那些能力強大、一旦釋出便可能造成嚴重損害的頂尖 AI 系統。早在 2023 年，達里奧·阿莫代便曾在美國參議院作證時指出，開放釋出先進 AI 模型是一條「危險的路徑」。

Anthropic 與 OpenAI 立場一致

根據《Axios》7月22日的報導，Anthropic 與 OpenAI 在對美國政策制定者的遊說上，立場趨於一致，共同警告中國若釋出不受安全限制的強大開放權重模型，將可能導致潛在的敵對勢力取得西方公司刻意加以防護的 AI 能力。

美國監管機構的態度

然而，美國監管機構目前認為，沒有足夠證據證明需要對開放權重模型實施廣泛限制，同時也肯定了維持小型模型開放所帶來的競爭與研究優勢。

從產業面來看，達里奧·阿莫代的觀點反映了業界對頂尖 AI 模型公開權重的深刻擔憂。這場爭論不僅關乎技術安全，更涉及國家安全和市場競爭。如果他的觀點最終獲得支持，將對 Web3 領域的去中心化 AI 專案帶來重大影響。

潛在影響

這場開放權重與 AI 安全性之間的爭論，可能對去中心化人工智慧（decentralized AI）的發展產生深遠影響。如果達里奧·阿莫代的觀點最終獲得支持，導致頂尖 AI 模型受到發布限制，相關的監管框架可能會影響未來 Web3 領域的去中心化 AI 專案。那些在區塊鏈基礎架構上建立開源 AI 的專案，將可能面臨直接的監管阻力。

相反地，如果開放權重模型的倡導者勝出，且美國政府繼續保持目前的放任態度，則將印證開放存取強大技術能創造更多安全性的原則。

行動呼籲

面對這場爭論，讀者可以進一步了解頂尖 AI 模型的安全性和監管政策，並思考自己在使用這些技術時應如何確保安全。此外，對於從事 Web3 領域的開發者，建議密切關注相關監管動態，以便及時調整開發策略。

本文改寫整理自公開新聞來源，原始報導由Yahoo奇摩新聞發布。

常見問題 FAQ

為什麼釋出頂尖 AI 模型的權重會帶來危害？

釋出頂尖 AI 模型的權重可能會使營運方失去撤銷存取、修補漏洞或監控使用情況的能力，從而帶來無法彌補的危害。

Anthropic 與 OpenAI 的立場是什麼？

Anthropic 與 OpenAI 在對美國政策制定者的遊說上立場一致，共同警告中國若釋出不受安全限制的強大開放權重模型，可能會對西方公司的 AI 能力造成威脅。

美國監管機構的態度如何？

美國監管機構目前認為，沒有足夠證據證明需要對開放權重模型實施廣泛限制，同時也肯定了維持小型模型開放所帶來的競爭與研究優勢。

※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。