AI前沿：从图模型到自奖励语言模型

本期《TAI快报》带您走进五篇AI前沿论文的关键内容： 《LLM as GNN: Graph Vocabulary Learning for Text-Attributed Graph Foundation Models》：提出PromptGFM，通过指令让语言模型模拟图神经网络，结合图词汇表，提升了带文字图任务的表现和跨图适应性。 《Process-based Self-Rewarding Language Models》：推出基于过程的自奖励方法，通过步步推理和自我评分，大幅提高语言模型在数学推理中的能力。 《Improving LLM-as-a-Judge Inference with the Judgment Distribution》：发现用语言模型判断分布的平均值比单一答案更准，且逐步推理有时反而降低效果。 《SoftMatcha: A Soft and Fast Pattern Matcher for Billion-Scale Corpus Searches》：开发SoftMatcha算法，结合语义和高效索引，实现在亿级语料库中快速找相似模式。 《Cognitive Behaviors that Enable Self-Improving Reasoners, or, Four Habits of Highly Effective STaRs》：揭示验证、回溯等四种习惯是语言模型自我提升的关键，可通过引导和训练数据优化。《认知行为，使自我提升的推理者成为可能，或，高效 STaRs 的四种习惯》：揭示验证、回归和反思完整推介：https://mp.weixin.qq.com/s/-T61kNhkKySBSXrMxpsi8g在小宇宙查看该单集文稿