Andreas Kirsch 批評 Google 簽署五角大廈合約

Andreas Kirsch 批評 Google 簽署五角大廈合約。 合約爭議與治理失效 Google DeepMind 資深研究科學家 Andreas Kirsch 撰文指出，Google 於 2026 年 4 月 27 日與美國國防部（Pentagon）簽署的機密 AI 合約，標誌著該公司長期依賴的「安全文化」與「信任領導」策略徹底崩潰。儘管 Andreas Kirsch 與超過 600 名同事曾聯署要求 Sundar Pichai 勿將 AI 模型部署於分類網路，但該合約仍在未經員工充分知情的情況下簽署。 這張圖表梳理了 Google DeepMind 從 2014 年至 2026 年間，在治理架構、道德準則與軍事應用限制方面的演變歷程與變遷。 合約條款的法律漏洞 根據《The Information》的報導，該合約允許「任何合法的政府目的」（any lawful government purpose），並要求 Google 協助調整安全設定與過濾器，且 Google 對政府的合法操作決策無否決權。法律專家 Charlie Bullock 批評，合約中「不旨在用於且不應被用於」（is not intended for, and should not be used for）等措辭在法律上完全不具約束力；電子前哨基金會（Electronic Frontier Foundation）也曾形容 OpenAI 的類似合約條款充滿「推託之詞」（weasel words）。 這張圖片透過對 Google 於 2026 年 4 月發布的公開聲明進行註解分析，質疑其在 AI 監管承諾中使用的模糊字眼，暗示該聲明缺乏實質的約束力。 治理機制的歷史倒退 Andreas Kirsch 回顧了 DeepMind 治理結構的衰敗過程： 2014 年收購時，創辦人曾堅持設立獨立監督委員會，但該機制於 2015 年後實質廢棄。 2016 年發起的「Project Mario」旨在建立 3-3-3 董事會以確保獨立性，但談判於 2021 年失敗。 2018 年 Google 因 Project Maven 抗議而制定的 AI 原則，明確排除武器與監控應用，但相關條款已於 2025 年 2 月被刪除。 Demis Hassabis 曾主張以「信任與參與決策」取代形式上的治理，但面對五角大廈合約，這種模式未能提供任何可執行的安全保障。 這張圖表呈現了 Google DeepMind 從 2014 年至 2026 年間，關於技術應用規範與治理原則的演變對比，並指出其在軍事用途與道德準則上的立場轉變。 對社會與民主的深層威脅 Andreas Kirsch 表示，他並非一概反對軍事 AI，但認為現有的大型語言模型（LLM）尚不足以進行生死決策；他也警告該合約未排除大規模監控與自動化警務。他同時認為，美國及其盟友無法承受能力不對稱的風險。Agentic frontier models 具備自主追蹤個人並預測行為的能力，若政府取得此類能力，將導致權力嚴重失衡。他以自身在羅馬尼亞經歷共產政權監控的背景警告，自動化監控系統可能威脅民主社會的基石。 這張照片記錄了 1989 年 12 月 17 日一群示威者在街道上行進的場景，並附有當時相關機構進行監控拍攝的文字說明。 行業模板與未來展望 目前五角大廈已與 SpaceX、OpenAI、Google、Nvidia、Microsoft、Amazon Web Services、Reflection AI 及 Oracle 等八家公司簽署類似協議。唯一拒絕此類條款的 Anthropic 隨後被宣告為供應鏈風險。Andreas Kirsch 呼籲： Google 應公開合約條款，說明防護措施與分類部署的透明度。 應透過法律而非政策備忘錄來規範 AI。 支持員工加入工會（如英國的 UTAW 或美國的 AWU），以爭取獨立倫理監督、吹哨者保護及道德拒絕權。 這是一份針對 Google 提出的五項 AI 倫理與企業治理訴求清單，內容涵蓋 AI 原則修訂、監管機制、獨立監督、決策透明度及員工拒絕參與爭議專案的權利。 Andreas Kirsch 的完整論述與參考資料可參閱其個人網站文章：Trust is not Governance 。此外，他亦提到美國政府近期強制 Anthropic 停用最新模型 Fable 5 與 Mythos 5 的案例，顯示國家對前沿 AI 的壓力已非假設，治理必須同時約束實驗室與政府雙方。 這張圖片引用了 Google DeepMind 執行長 Demis Hassabis 在《The Infinity Machine (2026)》一書中的觀點，強調安全性並非僅靠治理結構就能達成。 這張圖表對比了 2018 年與 2026 年兩起內部員工針對公司合約與技術決策的抗議事件及其後續結果，藉此強調集體代表權的重要性。原文：https://easyvibecoding.app/curated/2519-andreas-kirsch-criticizes-google-pentagon-deal