超越自回归：并行文本生成技术如何加速大模型推理

原文：A Survey on Parallel Text Generation: From Parallel Decoding to Diffusion Language Models该综述文章深入探讨了并行文本生成领域，旨在解决大型语言模型（LLMs）中固有的自回归（AR）生成速度瓶颈。文章系统地将现有技术分为基于自回归（AR-based）和非自回归（Non-AR-based）范式。基于自回归的方法通过草稿-验证、分解-填充和多令牌预测等策略加速生成，同时努力保持输出质量。非自回归方法则包括一次性生成、掩码生成和基于编辑的细化，它们通过打破严格的序列依赖关系来实现更高的并行度，但在质量上可能面临挑战。该研究还比较了这些方法的速度、质量和资源消耗，并讨论了不同加速策略的组合潜力，同时指出了该领域的开放性挑战和未来研究方向。前往小宇宙评论区与主播互动