根據人工智慧公司Anthropic執行長達里奧·阿莫代（Dario Amodei）的最新聲明，公開頂尖AI模型的核心參數（即開放權重）並非如部分人士所稱，能夠更容易建立安全防護網。相反地，這可能帶來無法彌補的危害。
公開權重的風險
達里奧·阿莫代強調，一旦這些頂尖AI模型的權重公開，營運方將失去撤銷存取、修補漏洞或監控使用情況的能力。這種情形下，潛在的敵對勢力可能利用這些模型進行有害活動，對社會和經濟造成嚴重影響。
根據Anthropic的研究，公開權重的風險主要體現在幾個方面：首先是安全漏洞的增加，公開權重使得黑客更容易找到和利用模型的漏洞；其次是市場競爭的失衡，小型公司可能因無法負擔高成本的模型訓練而處於劣勢；最後是監管困難，公開權重增加了監管機構監控和管理的難度。
小型模型的益處
然而，達里奧·阿莫代並未完全否定開放權重的價值。他承認，小型開放模型在研究和競爭上確實能帶來益處。這些模型通常功能較弱，公開權重可以促進技術的普及和創新，加速科研進程。
根據《Axios》7月22日的報導，Anthropic與OpenAI在對美國政策制定者的遊說上，立場趨於一致，共同警告中國若釋出不受安全限制的強大開放權重模型，將可能導致潛在的敵對勢力取得西方公司刻意加以防護的AI能力。
政策制定者的立場
然而，美國監管機構目前認為，沒有足夠證據證明需要對開放權重模型實施廣泛限制。他們肯定了維持小型模型開放所帶來的競爭與研究優勢，並表示將持續關注相關技術的發展。
根據美國監管機構的立場，他們認為在缺乏明確證據的情況下，不應過度限制開放權重模型的發展。這種立場在一定程度上反映了對技術創新和市場競爭的重視。
數據背後的啟示
這場開放權重與AI安全性之間的爭論，可能對去中心化人工智慧（decentralized AI）的發展產生深遠影響。如果達里奧·阿莫代的觀點最終獲得支持，導致頂尖AI模型受到發布限制，那麼相關的監管框架可能會影響未來Web3領域的去中心化AI專案。那些在區塊鏈基礎架構上建立開源AI的專案，將可能面臨直接的監管阻力。
相反地，如果開放權重模型的倡導者勝出，且美國政府繼續保持目前的放任態度，則將印證開放存取強大技術能創造更多安全性的原則。
從產業面來看，公開頂尖AI模型的核心參數雖然能加速技術的普及，但帶來的安全風險不容忽視。政策制定者需要在鼓勵創新和確保安全之間找到平衡點，才能推動AI技術的健康發展。
行動呼籲
面對這場開放權重與AI安全性之間的爭論，讀者可以通過關注相关政策動態，了解最新的技術發展和監管方向。同時，對於從事AI技術研發的企業和研究機構，建議在追求技術進步的同時，加強安全防護措施，以確保技術的健康發展。
本文改寫整理自公開新聞來源，原始報導由Yahoo奇摩新聞發布。
常見問題 FAQ
公開AI模型權重有哪些風險？
公開AI模型權重的主要風險包括：安全漏洞的增加、市場競爭的失衡和監管困難。
美國監管機構對公開AI模型權重的立場是什麼？
美國監管機構目前認為，沒有足夠證據證明需要對開放權重模型實施廣泛限制，並肯定了維持小型模型開放所帶來的競爭與研究優勢。
公開權重對Web3發展有何影響？
如果頂尖AI模型受到發布限制，將影響Web3領域的去中心化AI專案，可能面臨監管阻力。相反地，如果開放權重模型的倡導者勝出，將促進開放存取強大技術的發展。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
