事件總覽：從 Kimi K3 模型的崛起開始，到 Anthropic 執行長阿莫迪發表長文，揭示對中國開放權重模型的立場和建議

📅 2023年10月：Kimi K3 模型引發關注

因月之暗面 Kimi K3 模型的崛起，引發了美國政府和科技界對中國開放權重模型的關注。這款由中國研發的模型展示出極高的性能，引發了對其可能應用於軍事和監控的担忧。

📅 2023年11月：NVIDIA 執行長公開信

NVIDIA 執行長黃仁勳上週五發表公開信，聯合多家科技公司敦促政策制定者不應過早施加限制。黃仁勳認為，開放權重模型的發展對於創新和技術進步具有重要意義。

📅 2023年11月4日：Anthropic 執行長阿莫迪發表立場

四天後，Anthropic 執行長阿莫迪發表長文，表達自己和公司的立場。阿莫迪強調，Anthropic 從未主張禁止開放權重模型。「許多科技公司簽署了一封支持開放權重模型的公開信，甚至有人指控 Anthropic 想要禁止開放權重模型，藉此保護自身業務。」阿莫迪表示，「任何讀過我過去文章的人都應該知道，我不認為這類禁令是一項有用的措施。」

📅 2023年11月4日：阿莫迪的六個月前觀點

阿莫迪重申 6 個月前寫下的〈科技的青春期〉（The Adolescence of Technology）中闡述的兩件事，一直是他所擔憂的：一是威權政府打造出比美國更強大的模型，並利用這些模型達成永久的軍事優勢或對人民進行深度鎮壓；二是強大的模型可能遭到濫用，以執行網路攻擊或生物攻擊，存在嚴重的對齊問題。

📅 2023年11月4日：阿莫迪提出的三項措施

為應對上述威脅，阿莫迪提出以下三項措施：

• 不向中國銷售強大的晶片或晶片製造設備，並嚴加打擊走私和各種變通手法以取得先進晶片。阿莫迪認為這是阻擋中國威脅最直接、最有效的方法。
• 嚴加打擊工業規模的「蒸餾」行動，以防止中國模型水準拉近至落後美國數個月的差距。阿莫迪指出，許多執行蒸餾行動的中國公司會推出開放權重模型，這些行動背後有中國政府的支持。
• 所有能力足夠強大的模型，無論開源或閉源，均需進行強制性的安全測試，針對網路、生物及對齊風險進行測試，通過測試的模型才能釋出。

至今影響與未來展望

阿莫迪認同公開信中的許多內容，但不同意信中關於開放權重模型必然更容易開發安全措施，或者廣泛獲取能力有利於防禦者而非攻擊者的論點。他舉例，能力足夠強大的模型，可能運用廣泛取得的材料，迅速將大流行等級的病毒加以武器化。而針對這些病原體的防禦，即使在最理想的情況下，也需要耗時數年才能全面控制。

從產業面來看，阿莫迪的立場和建議反映出美國科技公司在面對中國開放權重模型威脅時的複雜態度。一方面，他們支持開放和創新；另一方面，他們也認識到這些模型可能帶來的安全風險。如何在兩者之間找到平衡，將是未來政策制定者和科技公司共同面臨的挑戰。

面對中國開放權重模型的崛起，你認為美國政府和科技公司應該如何應對？歡迎在下方留言分享你的看法。

本文改寫整理自公開新聞來源，原始報導由科技新報發布。

常見問題 FAQ

什麼是開放權重模型？

開放權重模型是指模型的權重（即訓練參數）公開共享，允許其他人自由使用和修改。

為什麼中國的開放權重模型引發關注？

中國的開放權重模型因其高性能和潛在的軍事、監控應用，引發了國際關注和担忧。

Anthropic 提出了哪些措施？

Anthropic 提出了三項措施：不向中國銷售先進晶片、嚴打「蒸餾」行動、進行強制性安全測試。

※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。