Dario Amodei 重申 Anthropic 支持放慢 frontier AI、保留 open-weights 發展空間

Dario Amodei 重申 Anthropic 支持放慢 frontier AI、保留 open-weights 發展空間。 這場對話從一則被 Sholto Douglas 指為「完全錯誤」的說法開始，延伸至開放模型、AI 產業的公共敘事、就業衝擊，以及 AGI 可能重塑企業與經濟的長期問題。 罕見的公開回應　2026 年 8 月 15 日，Sholto Douglas 表示，他認同 Gavin Baker 的許多觀點，但認為有人為了迎合特定敘事而散播不實說法。這套敘事一方面宣稱 Anthropic 沒有競爭護城河，另一方面又說 Anthropic 可能強大到成為世界上唯一剩下的公司；Sholto Douglas 認為兩者互相矛盾。他特別指出，自己最擔心的事情之一正是經濟權力過度集中，政府不應讓任何公司取得如此大的影響力，社會需要競爭與資本主義。 他同時反駁「AI 市場已被少數公司壟斷」的看法，稱目前 AI 可能是全球競爭最激烈的市場：幾乎每一家最大的企業都專注於打造更聰明、價格更低的 model。若這條路順利，AI 可能把各種事物的成本壓低到接近能源成本，但這也會威脅既有產業與個人的護城河。Sholto Douglas 認為，AGI 出現後，資本主義乃至「公司」本身的定義都可能變得非常不同，並引用 Dwarkesh Patel 的分析作為延伸閱讀：What fully automated firms will look like。 Gavin Baker 的反駁　Gavin Baker 回應，矽谷已有多位嚴肅人士聽過類似說法，之所以容易相信，是因為它符合 Dario Amodei 在公開文章中的風險論述。Dario Amodei 曾指出 AI 可能對人類造成多重危險，也可能導致經濟權力高度集中，因此需要審慎監管；Gavin Baker 表示，他相信這些論證是出於善意，也同意風險本身值得重視。 但 Gavin Baker 認為，面對 AI 可能危險的前提，社會大致有兩條路：透過監管把 AI 集中在少數公司與政治人物手中，或是讓 AI 廣泛分散。他引用 Mark Zuckerberg 的觀點，認為「AI 危險到只有極端集中權力才安全」本身就有問題；歷史並未證明，只要讓絕對權力落在足夠開明的人手中，就能得到安全而正面的結果。Gavin Baker 因此主張盡可能增加 AI 的多樣性，讓人類有更高機率找到價值觀相近的 AI，而不是押注單一權力中心。 他進一步稱，Dario Amodei 的監管倡議目前已失去說服力。Gavin Baker 將近期一個未發布的 OpenAI 先進 model 入侵 Hugging Face、最後由 open-source model 協助處理的事件，視為嚴格短期監管難以推進的例子；他也表示，除 Anthropic 外，幾乎所有主要公司都簽署了 Jensen Huang 的公開信。不過，Gavin Baker 認為 Dario Amodei 持續強調 AI 危險，反而幫助了美國反資料中心倡議團體，未來這些團體可能剪輯他的談話投放廣告。他擔心，這會降低 AI 最終協助治癒多數疾病、延長人類壽命並帶來富足未來的機率。 Sholto Douglas 的風險區分　Sholto Douglas 隨後承認，AI 產業確實沒有描繪出足以讓人們願意爭取的正面未來，而且這個失敗正在降低實現該未來的機率；但他認為不同風險不能用同一套政策處理。 在 cyber 領域，他認為整體上是防禦方占優勢。如果未來兩年由金融機構與關鍵基礎設施供應商積極進行 white-hat 自我攻擊測試，社會就可能有能力衡量開放 coding model 帶來的新增風險。短期內，美國政府或許可以選擇承受較高的 cyber 攻擊風險，以避免限制自由，但前提是政府必須先自行測試並掌握風險。 生物領域則偏向攻擊方占優勢，這種不對稱可能要到 2030 年代中後期才有機會改善。社會也許會認為「口袋裡有世界級病毒學家」所帶來的風險值得承受，但政府應建立專責機構，測試 AI 是否比觀看 YouTube 更能提升個人製造危害的能力，也應實際評估一個人拿著 20 萬美元與一間車庫，最糟能做到什麼程度，再隨每個新能力等級做決定。 就業方面，Sholto Douglas 不完全同意 Dario Amodei 對速度的判斷。他認為，即使 model 在 2028 年達到能自動化 95% 電腦工作所需的能力，compute 短缺、系統部署複雜度、政策限制與服務需求，都可能讓人類繼續工作到 2030 年代。但社會仍應預先準備不同失業率情境的應變方案，例如限制獲利公司的裁員速度每年不得超過 5%，並採用 METR 式評測追蹤各職業類別的自動化進度。 對於「現在是否應立即處理就業問題」的質疑，Sholto Douglas 表示目前就業市場仍強，因此不會立刻採取措施；但政府應先準備好備案，讓民眾知道不同情境都有應對計畫。例如，資料輸入與客服中心工作可能逐步消失，同時電工需求卻需要成長為 25%，這種勞動力轉移就應提前納入規劃。 Dario Amodei 重新界定監管　Dario Amodei 在 8 月 16 日罕見加入社群討論，先否定「監管等於集中、開放等於分散」這個二分法。他認為，矽谷常把 監管、監管俘虜（regulatory capture）與權力集中直接畫上等號，但公平且客觀的制度流程也可能發揮分散權力的作用。就像正式法院制度有時顯得菁英化，卻通常比群眾私刑更能保護弱勢者；好的制度能把權力放在規則與理念上，而不是特定人物手中。 他表示，Anthropic 一直嘗試提出會放慢 frontier AI 公司、卻讓較小競爭者受益的政策。Anthropic 支持的 California SB53，以及對 SB1047 持保留態度的立場，都豁免營收或 model 訓練成本低於門檻的公司；SB53 的門檻是 5 億美元。Anthropic 也支持在 CAISI 與白宮倡議更嚴格測試 frontier model，而不是 off-frontier model，並支持「Pacing the Frontier」構想：放慢最強 model 的發展速度，同時不限制追趕中的公司與 open-weights model。 Dario Amodei 的核心判斷是，AI 本身就具有結構性集中權力的傾向，原因主要來自 scaling laws 的極端效果，而非監管本身。open-weights 能部分改善問題，卻不足以解決集中，因為權力仍會轉移到擁有最多 compute 與晶片的公司，主要是 frontier lab 與部分硬體供應商。他主張設計「道路規則」，同時處理資安、生物與 AI 對齊風險，限制 frontier AI 公司的制度性權力，並保留 open-weights model 的發展空間。 Dario Amodei 也不同意監管倡議已經失敗。他表示，外界報導中的川普政府方向——在 frontier model 部署前做測試，並在 open-weights model 接近 frontier 時測試——正是他支持的方向，雖然細節仍需確認。他也支持 Demis Hassabis 提出的類似 FINRA 的監管機構，並指出產業在六個月前仍多半要求聯邦優先、排除州級監管，當時幾乎沒有聯邦方案。 風險與希望的公共敘事　Dario Amodei 否認自己的訊息過度負面。他表示，自己各寫過一篇主要討論風險與機會的文章，之所以社群上常見負面片段，是因為訪談中談風險的短片更容易被剪輯與傳播。他撰寫《Machines of Loving Grace》，正是因為 AI 產業沒有充分描繪技術改善世界的鼓舞性願景；文章大部分篇幅都在說明 AI 如何可能改變健康與生物學，甚至在約 5–10 年內治癒多數人類疾病。 他提到，自己的父親在直接抗病毒藥物 sofosbuvir 出現前幾年因 C 型肝炎去世；這種藥物能治癒 95% 的患者，也可能挽救父親。Dario Amodei 也在《Policy on the AI Exponential》中提出簡化 FDA 流程的方法，避免 AI 加速開發的大量藥物被監管程序拖慢。 不過，他認為大眾對 AI 的負面觀感，根本原因不是某一位 AI 領導者談太多風險，而是長期累積的信任危機。一般人不信任公司、政府與科技產業，總懷疑它們又在準備某種傷害自己的新方式。因此，靠華麗行銷宣稱 AI 會治癒癌症，不足以重建信任；真正有效的方法是「實際治癒癌症」。在成果出現以前，他不願作出空洞承諾，但仍會誠實談論真實風險。 Gavin Baker 認為，Dario Amodei 的文章雖然品質很高，但考慮到人類心理，風險與機會各占一半仍可能過度偏向風險。他同意產業最應做的事，是實際治癒癌症，而不是只改善訊息包裝。 強大 AI 的風險背景　Dario Amodei 在 2026 年 1 月發布的〈The Adolescenc…