Anthropic CEO 揭秘：開源 AI 真正威脅是威權政體與算力流向

事件總覽：近期美國政府考慮禁止使用特定國家的開源 AI 模型，引發科技界巨大爭議。Anthropic 執行長達里奧·阿莫代伊（Dario Amodei）公開撰文澄清，並提出具體監管建議。

📅 2023年09月：美國政府考慮禁止特定國家開源 AI 模型

近日，美國政府相關部門傳出正考慮禁止本國企業使用來自特定國家的開源 AI 模型。這一消息在科技界與人工智慧領域引發了巨大的震動。許多產業人士與競爭對手甚至質疑，作為前端閉源模型代表的 Anthropic 是否在背後運作，試圖透過行政手段打造保護主義壁壘、打壓開源競爭對手。

面對外界排山倒海的猜測與指責，Anthropic 聯合創辦人兼執行長達里奧·阿莫代伊（Dario Amodei）打破沉默公開撰文澄清。他明確指出，Anthropic 從未提議或主張全面禁止開源模型，並強調只要不具備極端危險能力，開源模型就是推動全球科技發展、大幅降低部署成本的重要公共產品。

阿莫代伊在公開文章中深入分析了當前人工智慧技術發展對國家安全與全球秩序可能產生的實質威脅。他強調，盲目封殺開源授權與美國企業的合理使用，完全搞錯了防守方向。科技界與政府決策層必須分清何者才是真正帶來毀滅性風險的源頭。

阿莫代伊指出，最深層的國家安全危險在於威權政體可能暗中訓練出超越美國與盟友的極致 AI 系統，並藉此取得永久性的軍事優勢或極端深化內部監控。真正威脅安全的是那些躲避國際監管、專供軍方與情報機構使用的秘密閉源模型。

為了讓全球 AI 安全治理重回理性且客觀的軌道，阿莫代伊在文章中正面向政策制定者與產業夥伴提出了三點具體且可執行的政策建議。

嚴格限制關鍵算力流向潛在威脅方：監管機構必須持續對高性能晶片與先進半導體製造設備的出口實施嚴格管制。同時，政策應加大力度打壓任何繞過出口禁令的非法走私與第三方代工行為，從最根本的硬體源頭切斷高風險模型訓練所需的算力基礎。
打擊跨國界大規模「模型蒸餾」侵權行為：針對部分機構與業者利用模型蒸餾等低成本技術，大量汲取領先閉源前沿模型能力、從而違規縮短研發週期的現象，政府與司法機構應建立更清晰的法律規範與商業懲戒機制，嚴懲濫用條款規避算力封鎖與智慧財產權的違規行為。
推行全面且強制的全國/全球 pre-release 安全測試：所有具備高能力強度的先進 AI 模型，無論採用開源還是閉源架構，在正式向大眾公開或交付給機構使用前，都必須強制通過發布前安全測試評估。這項測試應涵蓋網路安全防禦能力、生物安全風險檢驗以及模型對齊風險。

隨著人工智慧技術以指數級速度演進，開源模型所代表的技術民主化與潛在安全威脅之間的拉鋸，正成為全球科技政策的核心話題。阿莫代伊此次的重磅發聲，不僅正面擊碎了 Anthropic 試圖利用政府行政力量打壓開源生態的壟斷傳聞，更為陷入死胡同的開源閉源大戰提供了一條兼具可行性與防線安全的出路。

從產業面來看，Anthropic 的立場表明，開源與閉源之間的商業利益衝突並非單純的市佔率之爭，而是涉及國家安全與全球秩序的複雜博弈。政府與企業應共同合作，建立全球統一的監管框架，確保科技創新與安全防禦並進。

在這個瞬息萬變的 AI 世界中，每一方都需要負起責任，共同推動技術進步，同時兼顧安全與公平。讀者可以思考：在你所處的行業中，如何平衡開源與閉源的利弊？

本文改寫整理自公開新聞來源，原始報導由T客邦發布。

美國政府考慮禁止特定國家的開源 AI 模型，主要是基於國家安全考量，擔心這些模型可能被用於不良目的，如軍事優勢或內部監控。

達里奧·阿莫代伊提出了三點具體監管建議：1. 嚴格限制關鍵算力流向潛在威脅方；2. 打擊跨國界大規模「模型蒸餾」侵權行為；3. 推行全面且強制的全國/全球 pre-release 安全測試。

開源 AI 模型的主要威脅包括：1. 威權政體可能利用這些模型取得軍事優勢或加深內部監控；2. 惡意人士可能利用這些模型發起大規模網路攻擊或輔助生物武器開發。

※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。