OpenAI 發布自動化紅隊測試模型 GPT-Red，透過對抗性自我博弈訓練提升 GPT-5.6 Sol 的防禦能力

OpenAI 發布自動化紅隊測試模型 GPT-Red，透過對抗性自我博弈訓練提升 GPT-5.6 Sol 的防禦能力。 核心機制與應用 OpenAI 推出 GPT-Red，旨在解決傳統人工紅隊測試難以擴展的瓶頸。該模型透過「對抗性自我博弈」（adversarial self-play）進行訓練，在模擬環境中不斷嘗試對各種防禦型大型語言模型進行 prompt injection 攻擊。一旦 GPT-Red 成功突破防禦，這些攻擊案例就會被納入防禦模型的訓練資料中，形成一個提升安全性的正向循環。 顯著的防禦成效 根據 OpenAI 的測試數據，GPT-Red 的導入對模型穩健性帶來了顯著提升： GPT-5.6 Sol 成為目前對抗 prompt injection 最穩健的模型，其失敗率較四個月前的最佳生產版本降低了 6 倍。 在針對「Fake Chain-of-Thought」攻擊的測試中，GPT-5.1 的成功率曾高達 95%，但在 GPT-5.6 Sol 上已降至 10% 以下。 即使在面對 GPT-Red 自身最強的直接攻擊時，GPT-5.6 Sol 的失敗率僅為 0.05%。 實戰測試與安全性策略 為了驗證 GPT-Red 的通用性與實戰能力，OpenAI 進行了多項測試： 在模擬的間接 prompt injection 競技場中，GPT-Red 在 84% 的場景中取得成功，遠高於人類紅隊測試員的 13%。 針對 Andon Labs 開發的 AI 販賣機系統，GPT-Red 成功執行了修改商品價格、訂購高價商品及取消他人訂單等惡意目標。 針對基於 GPT-5.4 mini 的 Codex CLI Agent，GPT-Red 展現了更高的資料外洩成功率與 token 使用效率。 OpenAI 強調，GPT-Red 僅作為內部工具使用，不會對外開放，以防止惡意攻擊者利用其強大的攻擊能力。此舉確保了生產環境模型在維持高能力水準的同時，能具備更強的穩健性，且不會因過度防禦而導致拒絕執行合法任務。原文：https://easyvibecoding.app/curated/2542-openai-launches-gpt-red-automated-red-teaming