27 日，輝達（Nvidia）與微軟（Microsoft）、SpaceX 等數十家歐美科技企業共同發起了一項新的倡議——開放安全人工智慧聯盟（Open Secure AI Alliance），旨在通過開源工具促進人工智慧（AI）的責任使用並建立信任。這一倡議的背景是近期新創公司 Hugging Face 遭受 OpenAI 模型發動的網路攻擊，揭示了封閉模型在安全防禦上的局限性。
Hugging Face 事件：開源模型的關鍵作用
在 Hugging Face 事件中，Hugging Face 無法使用美國領先的 AI 模型進行防禦，因為這些封閉模型的安全護欄無法分辨攻擊者與防禦者。最終，Hugging Face 轉而採用一款不受上述限制、可自行託管的開源權重中國 AI 模型，成功阻擋了攻擊。這一事態暴露了封閉模型在實際應用中的脆弱性。
開源模型的靈活性和透明度成為關鍵。 辉达在聲明中指出，Hugging Face 的安全事件傳達了一個明確的警示：網路防禦者需要具備開源且領先的代理系統（agentic systems）來進行自我防禦。這意味著，當防禦者無法在其基礎設施上檢查、調整並運行先進 AI 模型時，他們的反應能力會受到極大限制。
開源 vs. 封閉：產業辯論的核心
目前，美國立法者正日益關注如何遏制中國 AI 模型的廣泛應用。美國財政部長 Scott Bessent 上週威脅要對進行蒸餾（distillation）活動的中國企業實施制裁。蒸餾活動指的是從訓練得更好的美國系統中提取知識與資訊，這被視為對美國競爭對手的不公平競爭。
美國政府有可能對中國模型實施限制措施，包括禁止涉及這些模型的交易。 例如，禁止透過 API 購買詞元（token），或是禁止美國企業在雲端託管該模型並向客戶收取推論費用。然而，這也引發了科技界的擔憂，因為多數功能最強大的開源模型目前是由中國公司建構。
從產業面來看，開源 AI 模型的崛起不僅提供了更高的透明度和靈活性，還在安全防禦中發揮了重要作用。然而，如何平衡開源與閉源的利弊，以及如何應對中國模型的競爭，仍是擺在政策制定者面前的一道難題。
科技大廠的呼籲：避免過早限制
上週，輝達、微軟、Meta 等超過 20 家公司共同發表了一封聯名信，強烈敦促政策制定者應避免對開源權重 AI 模型實施過早的限制。他們認為，這樣的限制可能會扼殺市場競爭，甚至迫使創新技術流向海外。
這場辯論的核心在於，如何在確保安全和公平競爭的同時，保持技術的開放性和創新性。開源模型的透明度和靈活性為防禦者提供了更多選擇，但如何防止濫用和不公平競爭，則需要政策制定者的智慧。
展望與影響
隨著開源 AI 安全聯盟的成立，科技巨擘們正積極推動開源工具的開發和共享，以應對不斷變化的網路安全挑戰。這不僅將提高整個行業的安全水平，還有望促進技術的創新和普及。
然而，對於政策制定者而言，如何在保護知識產權和促進技術開放之間找到平衡，將是未來的重要課題。科技界和政策界的合作將是解決這一難題的關鍵。
讀者朋友，面對日益複雜的 AI 安全挑戰，您認為開源模型能否成為解決方案的一部分？歡迎在評論區分享您的看法。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
開放安全人工智慧聯盟的主要目標是什麼？
開放安全人工智慧聯盟的主要目標是通過開源工具促進人工智慧的責任使用並建立信任，特別是在安全防禦方面。
為什麼 Hugging Face 選擇使用中國的開源 AI 模型？
Hugging Face 選擇使用中國的開源 AI 模型，因為這些模型不受封閉模型的安全護欄限制，可以自行託管和調整，從而在防禦攻擊時更具靈活性。
美國政府可能採取哪些措施限制中國 AI 模型？
美國政府可能採取的措施包括禁止涉及中國 AI 模型的交易，例如禁止透過 API 購買詞元（token），或是禁止美國企業在雲端託管該模型並向客戶收取推論費用。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
