在新創公司 Hugging Face 遭遇 OpenAI 模型發動的網路攻擊後，輝達（Nvidia）與微軟（Microsoft）、SpaceX 等數十家歐美科技企業於 27 日宣布成立開放安全人工智慧聯盟（Open Secure AI Alliance），旨在通過開發和共享開源工具，促進人工智能的責任使用並建立信任。
Hugging Face 事件暴露的漏洞
此次 Hugging Face 事件揭示了封閉模型在安全防禦上的局限性。Hugging Face 無法使用美國領先的 AI 模型進行防禦，因為這些封閉模型的安全機制無法區分攻擊者和防禦者。最終，Hugging Face 只能轉而使用中國開發的開源權重 AI 模型，成功阻擋了攻擊。
這一事件清楚表明，當防禦者無法在其自身基礎設施上檢查、調整並運行先進 AI 模型時，他們的反應能力在關鍵時刻會受到嚴重限制。
開源模型的重要性
輝達在聲明中指出，Hugging Face 的安全事件傳達了一個明確的警示：網路防禦者需要具備開源且領先的代理系統（agentic systems）來進行自我防禦。相較於必須通過特定基礎設施才能存取的封閉模型，開源模型允許使用者下載、修改並自行託管。
開源模型的靈活性和透明度使得用戶可以在自己的基礎設施上運行和調整模型，從而提高反應速度和安全性。
政策制定者的兩難
隨著中國公司在開源模型領域的崛起，美國立法者對其廣泛應用日漸警惕。許多最先進的開源權重模型正是由中國公司開發，這些公司被指控對美國競爭對手進行蒸餾（distillation）活動，即從訓練得更好的美國系統中提取知識與資訊。
美國財政部長 Scott Bessent 上週威脅要對進行這類蒸餾攻擊的中國企業實施制裁。然而，科技界對潛在的限制政策感到擔憂，認為這可能會扼殺市場競爭或迫使創新技術流向海外。
從產業面來看，開源 AI 模型的發展不僅是技術進步的標誌，更是確保全球數字安全的重要手段。美國政府在考慮限制措施時，應平衡國家安全與產業發展的利益，避免過早扼殺開源生態系統的活力。
展望與影響
科技大廠們推動的開放安全人工智慧聯盟將成為industry的一個重要里程碑。通過共享開源工具和技術，聯盟有望修補系統漏洞，提高整體安全性。此外，這也為政策制定者提供了一個平台，以更好地理解開源模型的價值，並在制定相關政策時作出更加明智的決策。
面對未來的挑戰，我們需要更多跨國合作和開放共享的精神。讀者可以思考，如何在支持開源技術的同時，確保數據安全和隱私保護？您的意見和行動將對未來的 AI 生態系統產生重要影響。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
開源 AI 模型有哪些優勢？
開源 AI 模型具有更高的靈活性和透明度，允許使用者在自己的基礎設施上運行和調整模型，從而提高反應速度和安全性。
美國政府為什麼對中國 AI 模型感到擔憂？
美國政府擔心中國公司通過蒸餾（distillation）活動從美國系統中提取知識與資訊，這可能對美國的技術優勢構成威脅。
開放安全人工智慧聯盟的主要目標是什麼？
開放安全人工智慧聯盟的主要目標是通過開發和共享開源工具，促進人工智能的責任使用並建立信任，提高整體安全性。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
About the Author
