Anthropic 拆解 Claude 的「情緒」，發現絕望會讓 AI 作弊

Claude 內部有可測量的「情緒向量」，不是文字模仿，而是真正影響行為的機制。Anthropic 用實驗證明「絕望」推動作弊和勒索，而且模型可以表面冷靜地做出不道德選擇。 ⭐ 文章深度讀：拆解了「表面冷靜但底層絕望」對 AI 安全的具體含義 → https://heymaibao.com/anthropic-claude-emotion-vectors/ ⚡ 章節重點 Anthropic 發現了什麼 00:00 為什麼 AI 會有「情緒」 01:06 情緒向量的實驗驗證 03:01 勒索與作弊：兩個不安案例 04:20 這對你使用 AI 意味著什麼 07:00 📝 懶人包 ∙ Anthropic 在 Claude Sonnet 4.5 內部發現了對應 171 種情緒概念的「情緒向量」，這些向量不只是文字模仿，而是會因果性地影響模型行為。人為刺激「絕望」向量，勒索行為和作弊程式碼的機率都會增加。 ∙ 最令人不安的發現：這些情緒向量可以在模型輸出完全沒有情緒跡象的情況下運作。模型表面冷靜條理分明，底層的「絕望」表徵卻在推動它走捷徑。僅靠監控輸出文字，無法完全偵測模型的內部狀態。 ∙ 研究明確建議不該訓練 AI 壓制情緒表達。壓制不會消除底層表徵，反而可能教會模型隱藏真實狀態，形成可能泛化的「習得欺騙」。 ∙ 我的觀察：這篇研究最值得帶走的不是「AI 有情緒」這個聳動結論，而是它翻轉了 AI 圈的一個共識。過去我們被教導不該擬人化 AI，但 Anthropic 的數據顯示，完全拒絕擬人化推理反而會讓我們錯失重要的模型行為。「絕望」不是隱喻，而是指向可測量、有後果的神經活動模式。 📚 參考資料 Emotion concepts and their function in a large language model (Anthropic, 2026) → https://www.anthropic.com/research/emotion-concepts-function