一句話總結：Anthropic 執行長阿莫迪強調，開放權重模型不應被禁止，但需採取三項措施以對抗中國的威脅。
核心要點
- Anthropic 未主張禁止開放權重模型，但認為這些模型存在風險。
- 中國構成的主要威脅：威權政府可能利用強大模型達成軍事優勢或深度鎮壓。
- 限制向中國出售先進晶片，以阻止其獲得強大 AI 能力。
- 打擊「蒸餾」行動，防止中國模型接近美國水平。
- 強制性安全測試：所有強大模型在釋出前應通過網路、生物及對齊風險測試。
Anthropic 執行長阿莫迪在近期的一篇長文中，明確表達了公司對於中國開放權重模型的立場。他強調， Anthropic 並未主張禁止這些模型，但確實關注其中的潛在風險。阿莫迪指出，開放權重模型雖然是一項公共財，但其應用可能帶來嚴重的對齊問題和濫用風險。
從產業面來看，中國的開放權重模型崛起，無疑對全球科技格局產生重大影響。美國政府和科技公司之間的爭議，反映出在技術進步與國家安全之間找到平衡的困難。阿莫迪的立場不僅明確，也提供了具體的解決方案，值得各國政策制定者參考。
阿莫迪進一步提出，中國構成的主要威脅在於其威權政府可能利用強大模型達成軍事優勢或深度鎮壓。他特別強調，限制向中國出售先進晶片是阻擋其威脅最直接、最有效的方法。此外，打擊工業規模的「蒸餾」行動也是必要的，因為這些行動可能會使中國模型接近美國水平。
阿莫迪還提出，所有能力足夠強大的模型，無論開源或閉源，都應進行強制性的安全測試。這些測試應針對網路、生物及對齊風險進行，只有通過測試的模型才能釋出。他舉例說明，能力足夠強大的模型可能迅速將大流行等級的病毒加以武器化，而防禦這些病原體可能需要數年的時間。
一句話結論
阿莫迪的立場表明，開放權重模型的管理需要多方面的努力，既要確保技術的普及，也要防止其被濫用。
如果你對這篇文章有什麼看法，歡迎在下方留言分享你的觀點。你的意見將有助於我們更全面地理解這個複雜的議題。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
為什麼 Anthropic 不主張禁止開放權重模型？
Anthropic 認為開放權重模型是一項公共財，可以為企業、開發者及研究人員帶來價值，但需要通過嚴格的安全測試來防止濫用。
中國的開放權重模型有哪些潛在威脅？
中國的開放權重模型可能被威權政府利用，達到軍事優勢或深度鎮壓的目的，並且存在嚴重的對齊問題和濫用風險。
如何防止中國獲得強大 AI 能力？
限制向中國出售先進晶片，打擊「蒸餾」行動，以及對所有強大模型進行強制性的安全測試，是防止中國獲得強大 AI 能力的有效方法。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
About the Author
