OpenAI 養了一個專門騙 AI 的 AI，然後把它鎖在自己家裡

OpenAI 訓練內部專用紅隊模型 GPT-Red 專攻 prompt injection，對 GPT-5.1 成功率 84%，人類紅隊 13%，還打穿辦公室的 AI 販賣機。它練硬了 GPT-5.6 Sol，自己不對外。 ⭐ 文章深度讀：GPT-Red 怎麼練出來的，還有那些數字能撐到哪裡 → https://heymaibao.com/openai-gpt-red-automated-red-team/ ⚡ 章節重點 辦公室的販賣機被打穿了 00:00 prompt injection 是什麼 01:03 GPT-Red 怎麼練出來的 01:37 84% 對上人類的 13% 03:00 從考題打到真的在跑的系統 03:59 矛練出來的盾 04:28 這些數字的性質要看清楚 06:00 為什麼要鎖起來 06:32 我的觀點 07:08 📝 懶人包 ∙ OpenAI 訓練了一個內部專用的自動紅隊模型 GPT-Red，專門攻擊 prompt injection 這種漏洞 (在 AI 會讀到的資料裡偷埋指令)，用掉的算力跟自家幾個最大規模的訓練同級 ∙ 在 OpenAI 內部復刻的攻防場地裡，GPT-Red 對舊款的 GPT-5.1 攻擊成功率是 84%，同場人類紅隊只有 13%，它還攻破了辦公室裡一台真實運作的 AI 販賣機 ∙ 這些攻擊資料回頭訓練防守，最新的 GPT-5.6 Sol 在最難的一項測驗上，失敗次數只有四個月前最佳生產模型的六分之一，一般能力沒有退步，而 GPT-Red 本身刻意不對外 ∙ 我的觀點：這篇真正的新聞是紅隊這個工種正在被規模化，但漂亮數字幾乎都出自 OpenAI 自家攻擊者測自家防守者的閉環，不能讀成 prompt injection 已經解決 📚 參考資料 GPT-Red: Unlocking Self-Improvement for Robustness → https://openai.com/index/unlocking-self-improvement-gpt-red/ GPT-Red: Automated Red Teaming via Self-Play at Scale (Wallace et al., 2026) → https://cdn.openai.com/pdf/gpt-red-automated-red-teaming-via-self-play-at-scale.pdf How Vulnerable Are AI Agents to Indirect Prompt Injections? Insights from a Large-Scale Public Competition (Dziemian et al., 2026) → https://arxiv.org/abs/2603.15714 Project Vend: Can Claude run a small shop? (And why does that matter?) → https://www.anthropic.com/research/project-vend-1