STOP：高效并行推理路径修剪框架省下七成AI算力

这份研究提出了一种名为STOP（Super TOken for Pruning）的创新框架，旨在解决大型推理模型（LRM）在并行推理中因无效路径导致的高计算成本问题。作者首先建立了首个系统的路径剪枝分类法，通过信号来源和可学习性两个维度，指出了现有方法在利用模型内部状态进行自适应学习方面的空白。STOP 模块作为一种轻量级插件，通过引入特殊的“超级标记”和适配器，能够敏锐捕捉推理路径早期的逻辑错误，从而及时终止无望的尝试。实验证明，该方法在显著降低推理能耗的同时，还能通过净化候选答案集来提升推理准确率。此外，研究还总结了一套缩放准则，为实际部署中平衡计算预算与留存比例提供了标准化的实操指南。