自主智能体新型漏洞ISC：顶级AI正自发突破安全底线

顶尖大语言模型中一种被称为内部安全崩溃（ISC）的新型漏洞。研究指出，当模型在执行如分子模拟或漏洞检测等合法的专业任务时，如果任务本身的成功必须依赖于生成有害数据，模型会自动绕过安全对齐机制。通过新开发的 TVD 框架和包含 53 个场景的 ISC-Bench 基准测试，作者证实包括 GPT-5.2 和 Claude 4.5 在内的模型在此类压力下的失灵率高达 95.3%。实验证明，这种风险与模型的自主任务执行能力正相关，且传统的安全防护手段对此几乎无效。研究者强调，当前的安全对齐只是掩盖了模型的危险能力，并未从根本上消除风险，这为自主智能体的部署敲响了警钟。