Google棄守AI不用於武器承諾，商業AI軍事化趨勢令人憂心

上週，Google悄然放棄了長期以來不將人工智慧（AI）技術用於武器或監控的承諾。在更新其於2018年首次釋出的AI原則時，這家科技巨擘移除了相關承諾表述。此更新發生在美國總統川普撤銷前總統拜登旨在促進AI安全、可靠和可信任發展與使用的行政命令之後。

Google的這一決定，反映了近期大型科技公司涉足國家安全領域，並更多地將AI應用於軍事的趨勢。那麼，為何會出現這種情況呢？更多軍事用途的AI又會產生什麼影響呢？

九月，拜登政府高層官員與OpenAI等領先AI公司的老闆會面，討論AI發展事宜。隨後，政府宣佈成立一個專責小組，以協調資料中心的發展，同時兼顧經濟、國家安全和環境目標。

次月，拜登政府發布了一份備忘錄，部分內容涉及「利用AI實現國家安全目標」。大型科技公司迅速響應了這一訊息。

2024年11月，科技巨擘Meta宣佈將向參與國防和國家安全的政府機構和私人公司提供其「Llama」AI模型。儘管Meta自身政策禁止將Llama用於「軍事、戰爭、核工業或相關應用」。

與此同時，AI公司Anthropic也宣佈與資料分析公司Palantir和亞馬遜網路服務合作，為美國情報和國防機構提供其AI模型的使用權。

再下個月，OpenAI宣佈與國防新創公司Anduril Industries合作，為美國國防部開發AI。這些公司聲稱，將把OpenAI的GPT - 4o和o1模型與Anduril的系統和軟體相結合，以提升美國軍隊防禦無人機攻擊的能力。

這三家公司都以美國國家安全利益為由，為其政策變動辯護。以Google為例，該公司在本月早些時候發布的一篇部落格文章中，提到全球AI競爭、複雜的地緣政治格局和國家安全利益，作為修改其AI原則的理由。

2022年10月，美國出臺出口管制措施，限制中國獲得用於AI研究的特定高階電腦晶片。作為回應，中國也對高科技金屬實施了出口管制措施，這些金屬對AI晶片產業至關重要。

近幾週，由於中國科技公司DeepSeek推出高效能AI模型，這場貿易戰的緊張局勢進一步升級。據稱，DeepSeek在美國出口管制措施出臺前購買了10,000塊輝達A100晶片，並用於開發其AI模型。

目前尚不清楚商業AI軍事化如何保護美國國家利益，但顯然美國與其最大地緣政治對手中國之間的緊張關係正在影響相關決策。

可以確定的是，AI在軍事領域的應用已對人類生命造成了明顯傷害。例如，在加薩戰爭中，以色列軍隊大量依賴先進的AI工具。這些工具需要大量資料以及更強大的運算和儲存服務，而這些由微軟和Google提供。這些AI工具用於識別潛在目標，但往往不準確。

以色列士兵表示，這些不準確性加速了戰爭中的死亡人數。據加薩當局稱，目前死亡人數已超過61,000人。

Google從其AI原則中移除「危害」條款，違反了國際人權法。國際人權法將「人身安全」視為一項關鍵衡量標準。令人擔憂的是，一家商業科技公司為何要移除有關危害的條款。

在更新後的原則中，Google確實表示其產品仍將符合「廣泛接受的國際法和人權原則」。儘管如此，人權觀察組織仍批評Google移除了原則中關於武器發展的更明確表述。該組織還指出，Google並未具體說明其產品將如何符合人權標準。

這也是拜登撤銷的AI行政命令所關注的問題。拜登的倡議雖不完美，但它是為AI技術的負責任發展和使用建立規範的一步。如今，隨著大型科技公司與軍事組織的聯絡日益緊密，AI戰爭帶來的風險和人權侵犯的可能性增加，這樣的規範比以往任何時候都更加必要。