OpenAI：推理模型的可监测性评估研究

研究探讨了如何衡量并提升人工智能系统思维链（CoT）的可监测性，以确保日益自主的代理在部署中具备安全性。作者提出了干预、过程及结果属性三类评估框架，并引入了专用的g-mean²指标来量化监控有效性。实验表明，更长的思维链通常能显著提高可监测性，且这种监控方式比仅观察代理行为更有效。研究还揭示了**“可监测性税”现象，即通过部署推理更充分的小型模型，可以在保持性能的同时提升可监测性。此外，强化学习（RL）优化目前并未削弱监控能力，且通过追加询问**可以进一步引导模型输出更多可监测的信息。该研究为理解AI决策过程的透明度提供了重要的基准和 scaling trends 分析。