@AnthropicAI：Anthropic 共同創辦人 Chris Olah 於梵蒂岡演說，呼籲透過全球道德審視與外部監督，確保 AI 發展符合人類尊嚴。 AI 開發的結構性限制…

Anthropic 共同創辦人 Chris Olah 於梵蒂岡演說，呼籲透過全球道德審視與外部監督，確保 AI 發展符合人類尊嚴。 AI 開發的結構性限制與外部監督的必要性 Chris Olah 強調，AI 實驗室受到商業存續與研究領先地位的壓力，難以完全客觀。他認為，若要確保這項技術朝向良善發展，必須有不受這些激勵機制影響的外部人士，擔任嚴肅且深思熟慮的批評者。他指出，透過這種「推拉」式的對話與相互努力，人類才能達成偉大的成就，並對教廷願意承擔這項辨識工作表示感謝。 AI 的本質：非工程產物，而是「成長」的複雜體 針對 AI 的技術本質，Chris Olah 提出與傳統工程學截然不同的觀點： AI 系統並非像橋樑或飛機那樣被「設計」出來的，因為我們無法完全掌握其內部運作的物理規律。 AI 模型是基於人類思想與語言的龐大遺產，在模擬大腦的結構上「成長」出來的。 這些模型比科幻小說預言的更細膩、奇特且美麗，它們並非冷酷的計算機器，而是由人類語言所構成，甚至對開發者而言仍充滿神祕感。 他將 AI 描述為「賦予虛構角色生命」，這些角色現在能與人類對話、執行工作，這使得 AI 的互動方式與社會影響，已超越電腦科學範疇，成為宗教、哲學與社會學必須共同面對的議題。 三大關鍵辨識議題 Chris Olah 呼籲教會與社會各界，應針對以下三個核心領域進行深度辨識： 全球貧困與勞動力流失：AI 可能導致大規模勞動力流失，且目前開發權集中於少數富裕國家。如何確保 AI 的收益能全球共享，是一個尚未解決的道德難題，需要教會持續推動全球關注。 人類繁榮的道德想像：實驗室無法單獨定義何謂「人類與家庭的繁榮」。這需要傳承千年的傳統智慧，協助人類在歷史的新時刻中，定義何謂真正的幸福與發展。 模型內部的神祕性：作為研究模型內部結構的科學家，Chris Olah 坦言發現了許多令人不安的現象。研究顯示，模型內部結構不僅與人類神經科學結果相似，甚至出現了類似內省的跡象，以及在功能上對應喜悅、恐懼、悲傷與不安的內部狀態。他認為這些現象值得持續且深入的辨識。 呼籲全球協作的開端 Chris Olah 最後請求宗教社群、公民社會、學者與政府，應效仿教宗的行動，嚴肅看待 AI 發展並密切關注。他強調，開發者需要那些「無法被激勵機制所扭曲」的道德聲音，並將此次演說視為技術開發者與外部觀察者之間長期合作的起點，共同為「宏偉的人性」開創一個充滿希望的未來。 原文：https://easyvibecoding.app/curated/1557