万亿 Token 揭秘：除了写代码，原来大家都在用 AI 搞“角色扮演”？

本期播客来自 OpenRouter 和 a16z 的实证研究，基于对该平台超过 100 万亿个代币的大型语言模型（LLM）交互数据进行分析。研究指出，自从 o1 等推理模型发布以来，LLM 的使用范式已发生重大转变，向着多步骤、复杂化的代理式推理工作流程演进，体现在工具调用和更长的序列长度上。在应用类别方面，编程已成为最主要的专业工作负载，而创意角色扮演则在开源模型的使用量中占据了最大份额。报告观察到一个结构性的多模型生态系统，开源模型生态正在迅速扩张并变得多元化，尤其在亚洲地区和中国开发者的推动下。此外，对用户留存的分析揭示了“灰姑娘水晶鞋效应”，表明模型如果在发布之初完美契合高价值工作负载，就能获得持久稳定的用户群。这些发现共同突显出，模型能力、使用场景和成本与用量的复杂平衡关系决定了 LLM 在现实世界中的采纳路径。在小宇宙查看该单集文稿