代码智能体与大模型前沿

该文献对用于代码智能的大型语言模型（LLMs）的现状进行了全面概述，重点介绍了架构进步和核心训练方法。它详细描述了前沿模型结构，例如混合专家模型 (MoE)和扩散模型，并阐述了监督微调 (SFT) 和利用可验证奖励的强化学习 (RL) 等关键后训练策略。文中系统地分类了模型的应用领域，涵盖从基础的代码生成与修复到复杂的多模态代码合成和自然语言转 SQL 等任务。报告将大量篇幅用于讨论软件工程（SWE）智能体的发展，这些智能体正变得更加自主，能够执行跨越软件生命周期各个阶段的多步骤任务。此外，该综述还回顾了如 SWE-bench 基准等重要的评估标准，并探讨了在编码环境中确保 LLM 安全性与可靠性的关键挑战和缓解措施。前往小宇宙评论区与主播互动