國防AI倫理戰!Palantir揭美軍AI境外部署,Anthropic拒監控反遭列「國安風險」提告

事件總覽:美國軍方在人工智慧(AI)技術的應用,從初期導入機密系統,到近期聚焦境外作戰,引發了對AI倫理與公民權益的深刻辯論,特別是AI公司Anthropic與五角大廈間的衝突,更揭示了科技巨頭在國防科技領域所面臨的兩難與挑戰。

事件總覽:美國軍方在人工智慧(AI)技術的應用,從初期導入機密系統,到近期聚焦境外作戰,引發了對AI倫理與公民權益的深刻辯論,特別是AI公司Anthropic與五角大廈間的衝突,更揭示了科技巨頭在國防科技領域所面臨的兩難與挑戰。

美國軟體巨擘Palantir執行長亞歷克斯·卡普(Alex Karp)近期明確指出,美國國防部的人工智慧(AI)產品應用,主要鎖定在戰爭背景下的非美國公民,而非境內使用。此番言論讓AI倫理與軍事應用爭議再度浮上檯面,特別是另一家AI公司Anthropic,因拒絕讓其模型用於大規模監控或致命自主武器,竟遭川普政府列為「國家安全供應鏈風險」,並已對國防部提起訴訟,這場科技與政府的角力戰,可說是越演越烈。

Anthropic之所以被川普政府列為「國家安全供應鏈風險」並最終提告美國國防部,主要原因在於該公司拒絕讓其先進的人工智慧模型Claude,用於大規模監控美國公民或驅動致命自主武器。Anthropic認為這些應用違反基本權利且技術尚不成熟,但五角大廈堅持AI應可用於所有合法用途,此歧見最終導致政府採取報復性行動,促使Anthropic透過法律途徑捍衛其立場。

📅 關鍵時間軸:AI國防應用的倫理拉鋸戰

逾一年前:Anthropic Claude模型獲美政府採用

Anthropic旗下的人工智慧模型Claude,據業界消息指出,在逾一年前便已成為美國政府採用的AI模型,更是首個獲准用於機密資訊的尖端系統。這一步,無疑為先進AI技術深度介入國家安全領域,開啟了先河,也讓各界開始關注AI在國防應用上的潛力與風險。

去年:Anthropic與美國國防部展開合作

在此之前,Anthropic於去年曾直接與美國國防部攜手,共同開發專為國防部量身打造的人工智慧技術。這項合作顯示了五角大廈對其AI能力的重視,也預示著未來潛在的應用廣度,儘管當時對於具體應用範疇的討論尚未完全浮現。

今年一月:Claude模型傳用於逮捕委內瑞拉總統

有趣的是,今年一月,Anthropic的AI工具據報曾被實際用於一項敏感任務——協助逮捕委內瑞拉總統尼可拉斯·馬杜羅。這直接證明了Claude模型在情報與執法行動中的實戰能力,也讓外界開始關注其應用邊界,以及可能帶來的倫理挑戰。

今年二月:Anthropic與五角大廈陷入僵局

然而,隨後在今年二月,Anthropic與五角大廈之間的合作卻亮起了紅燈。Anthropic堅持其AI模型不應被用於大規模監控美國公民,或是驅動致命自主武器,認為這不僅違反基本權利,當前的尖端AI模型也尚不足以承擔全自主武器的責任。他們尋求五角大廈的明確保證,但五角大廈則堅稱Claude應可用於「所有合法用途」,雙方對AI倫理的理解產生了重大分歧。

今年2月27日:川普政府將Anthropic列為「國家安全供應鏈風險」

這項僵局直接導致了後續的戲劇性發展。在今年2月27日,川普政府突然宣布,將Anthropic列為對國家安全構成供應鏈風險的公司。值得注意的是,這可是美國政府首次將一家本土企業認定為「國家風險」,其背後意涵不言而喻,被廣泛解讀為對Anthropic立場的強力反制,引發了對政府權力濫用和企業言論自由的擔憂。

今年三月:Anthropic為內部備忘錄洩露致歉

隨後,Anthropic向政府為一份內部備忘錄的洩露事件公開道歉。這份備忘錄批評了OpenAI接受五角大廈合作協議的決定,而Anthropic本身則選擇拒絕。該備忘錄的撰寫時機,正值川普總統透過Truth Social平台宣布將Anthropic從所有聯邦系統中移除,以及戰爭部長透過X平台宣布供應鏈風險認定等多項消息公布後數小時內,顯示出當時局勢的緊繃。

今年3月9日:Anthropic提告美國國防部,捍衛言論自由

面對政府的強硬態度,Anthropic選擇了法律途徑。在今年3月9日,他們正式向美國加州北區聯邦地區法院提起訴訟,控告國防部及其他聯邦機構。Anthropic在訴狀中直指川普政府此舉「前所未有且不合法」,更強調憲法不允許政府利用其龐大權力,來懲罰一家公司受保護的言論,這無疑是一場科技巨頭與政府間的硬仗。

至今影響與未來展望

有趣的是,Palantir執行長亞歷克斯·卡普也補充表示,儘管Anthropic與Palantir曾於2024年合作,透過Palantir向國防部提供其AI技術,但國防部對AI產品的運用方向,從未包含境內使用。卡普強調:「我們仍在處理所有這些事務,是我們的技術棧在運行大型語言模型(LLMs)。」這番話不僅重申了Palantir在AI應用上的立場,也暗示了在國防AI這盤棋局中,各方仍持續摸索與調適。

Anthropic與五角大廈的這場爭議,不僅是單一企業與政府之間的衝突,更像是一面鏡子,映照出全球在人工智慧發展浪潮中,所面臨的倫理、法律與國家安全等多重挑戰。這場訴訟的結果,將可能為未來AI技術在國防、情報乃至公民社會中的應用,劃定更清晰的界線,並促使各界重新審視科技創新與社會責任之間的平衡。我們或許正處於一個關鍵的轉捩點,見證著AI技術如何在道德與實用之間,尋找那條難以定義的「合法用途」。