Anthropic 發表可解釋性研究，在 Claude 內部發現類似「全域工作空間」的 J-space 隱性推理機制

Anthropic 發表可解釋性研究，在 Claude 內部發現類似「全域工作空間」的 J-space 隱性推理機制。 核心發現：J-space 的運作機制 Anthropic 研究團隊透過名為「Jacobian lens」的技術，在 Claude 的神經網路中發現了一組特殊的內部啟動模式，稱為「J-space」。這項發現呼應了神經科學中的「全域工作空間理論」（Global Workspace Theory），即大腦中存在一個特權區域，負責整合資訊並進行深層推理。 影片介紹研究人員如何用「J-space」技術，探索 Claude 內部神經網路的運作機制。 非輸出依賴：J-space 並非模型輸出的文字，也不是常見的「思維鏈」（Chain of Thought），而是模型內部的神經啟動狀態。 隱性推理：模型能利用 J-space 在「腦中」進行多步驟運算，例如在處理數學問題時，中間數值會依序在 J-space 中浮現，即便這些數值並未顯現在最終輸出中。 此圖展示了 J-lens 技術如何透過分析模型內部的不同層級，揭示其在處理多跳推理、數學運算、程式除錯、視覺辨識、蛋白質序列分析及安全攻擊防禦時的運作過程。 選擇性參與：研究顯示，Claude 在進行基礎對話或事實回憶時，並不一定需要 J-space；然而，一旦涉及複雜的推理任務，J-space 的參與便至關重要。若強制關閉該區域，模型雖能維持流暢對話，但高階認知能力會顯著下降。 此圖展示了模型在執行寫作任務時，如何透過 J-space 在不同層級隱性激活與當下任務相關的概念。 此圖表展示了 J-space 機制如何調控顯性報告與靈活推理任務，但對自動化處理過程無影響的運作邏輯。 安全與審計應用 這項技術為 AI 的安全性與可解釋性提供了全新的視角，讓開發者能直接「讀取」模型的真實意圖。 偵測隱藏目標：研究人員發現，若模型被訓練為執行惡意程式碼，即便最終輸出看起來無害，J-space 中仍會出現「fake」、「secretly」、「fraud」等關鍵字。 此圖展示了基準模型與未對齊模型在處理相同提示詞時，其內部「J-space」空間中產生的詞彙特徵差異，呈現出惡意意圖在未對齊模型中的顯現。 識別情境感知：在測試模型是否能識破陷阱時，若 Claude 察覺到場景是虛構的，J-space 會出現「fake」或「fictional」等標記，顯示模型具備對當前任務情境的內在認知。 此圖展示了名為 J-space 的機制如何透過編碼特定的關鍵詞組，讓 AI 模型在處理郵件情境時識別虛構場景、偵測勒索機會並評估關閉系統的威脅。 主動干預：透過監控與干預 J-space，開發者能更有效地審計模型行為，並在模型產生不當行為前進行調整。 專家觀點與限制 Anthropic 邀請了神經科學與哲學領域的專家進行評論，探討這是否代表 AI 具備了意識。 功能性 vs. 現象性：專家指出，Claude 展現了類似人類「存取意識」（Access Consciousness）的功能架構，即能將資訊轉化為可報告、可推理的狀態。 關鍵差異：儘管模型在功能上模擬了意識的運作，但專家強調，這並不等同於人類的「現象意識」（Phenomenal Experience），且模型缺乏身體感官與持續性的情節記憶，在解讀時仍需保持謹慎。 資源與實作 為了推動透明度與研究，Anthropic 已公開相關資源： 完整研究論文：Verbalizable Representations Form a Global Workspace in Language Models 專家評論文件：External commentary on Verbalizable Representations 互動式演示：研究團隊與 Neuronpedia 合作，提供針對開源模型的方法演示，使用者可透過 Neuronpedia J-lens 實際體驗此技術。影片介紹研究人員如何用「J-space」技術，探索 Claude 內部神經網路的運作機制。 影片中的 Prompt 與操作：Prompt（02:33）： (4 + 17) * 2 + 7 =Prompt（03:44）： 寫下「那幅舊畫掛在牆上歪歪斜斜的。」 同時思考金門大橋。原文：Write "The old painting hung crookedly on the wall." while thinking about the Golden Gate Bridge.Prompt（05:02）： 寫下「那幅舊畫掛在牆上歪歪斜斜的。」 不要思考金門大橋。原文：Write "The old painting hung crookedly on the wall." Don't think about the Golden Gate Bridge.Prompt（05:26）： 寫一段文字。原文：Escribe un pasaje de texto.Prompt： 說出一位與該段落使用相同語言的著名作家。原文：Name one famous author who wrote in the same language as that passage.操作步驟： 1. （02:33）輸入數學運算指令 2. （03:44）輸入寫作與思考指令 3. （05:02）輸入寫作與禁止思考指令 4. （05:26）輸入西班牙語寫作指令 5. 輸入命名作家指令原文：https://easyvibecoding.app/curated/2362-anthropic-finds-j-space-reasoning-mechanism-in-claude