3345.关于Anthropic提议放缓人工智能发展的一些思考

欢迎收听雪球出品的财经有深度，雪球，国内领先的集投资交流交易一体的综合财富管理平台，聪明的投资者都在这里。今天分享的内容叫关于Anthropic提议放缓人工智能发展的一些思考，来自VincentLv。周末看到Anthropic C E O Dario Amodei发表了一篇文章《We Must Pace the Frontier》，核心观点是：现在前沿A I的发展速度已经太快了，需要适当控制节奏，给安全体系一些追赶的时间。随后Open A I的奥特曼、马斯克也都表达了类似的认同。看到这个新闻，第一反应可能是：A I都准备slow down了，那是不是利空A I硬件？我觉得对于A I硬件投资者来说，真正值得关注的应该是：为什么这些站在A I最前沿的人，现在突然开始集体讨论要给A I踩刹车？1、真正值得注意的潜台词：A I不是发展太慢，而是发展得太快了过去一年市场对于A I硬件最大的担心，一直是Scaling Law是不是到头了，继续堆G P U到底还有没有用，几千亿美元A I CapEx最终有没有足够的R O I。如果未来出现的是G P U越堆越多，但模型能力越来越难提升，那才是A I硬件真正需要警惕的事情。但达里奥现在担心的恰恰相反。他认为最近一段时间A I能力进步速度明显加快，其中一个重要原因，就是A I已经越来越能够帮助人类进行A I研发。更强的A I可以帮助开发下一代A I，而下一代A I能力继续提升之后，又会进一步提高研发效率，最终可能形成一种自我强化。所以从A I硬件投资角度看，这里面其实释放了一个很重要的信息：至少在最前沿A I公司的视角里，A I能力曲线并没有明显放缓，反而可能正在重新加速。这和Scaling Law失效、继续堆算力已经没有意义，是完全不同的产业状态。2、A I越智能，反而可能带来越大的算力需求这一点从我自己的使用体验就很明显。如果一个A I只有70分，我可能偶尔问它几个问题；如果它到了90分，我会开始让它写东西、做研究、分析P D F、处理数据、辅助投资；如果未来A I真的到了95分甚至99分，可以稳定完成编程、科研、企业流程和各种Agent任务，那么使用需求可能完全不是一个数量级。人在面对一个明显更加聪明的模型时，其实有很强的使用动力。只要价格能够承受，我肯定会尽量使用更聪明的模型。模型能力越强，能覆盖的用户越多，每个用户使用A I的频率也可能越高，交给A I完成的任务越来越复杂，单次任务消耗的Token和计算量也会越来越大。未来甚至可能不是一个人调用一个A I，而是一个人背后同时运行很多个Agent，这些Agent还会持续调用模型。所以A I变得越来越智能，更可能出现的情况是，模型越来越好用以后，用户规模、调用频率和Agent数量同时增长，最终推动推理算力需求继续扩大。这有点类似于计算领域的杰文斯悖论。单位计算成本越来越低，并没有让社会少使用计算机，反而让整个社会消耗的计算量越来越大。3、还有一个更现实的问题：美国真的能够slow down吗？这是我觉得整件事情里面最矛盾的地方。今天的A I竞争已经不再只是Open A I、Google、Anthropic几家公司的商业竞争，而是越来越明显地上升到了中美之间的国家级科技竞争。假设美国认为A I发展太快，因此决定先放慢半年，但中国没有放慢，那么半年以后中国追上来了，美国能接受吗？反过来也一样。所以从博弈角度来看，这其实是一个很典型的囚徒困境。理论上最理想的状态当然是美国慢一点，中国也慢一点，大家给A I安全研究留更多时间。但只要任何一方怀疑另一方可能继续全速发展，最后最可能出现的结果还是双方都不敢真正停下来。达里奥自己其实也承认这个问题。美国能够减速多少，很大程度上取决于它相对于中国还有多大的领先优势。如果美国减速以后导致中国追上甚至反超，对美国来说同样是无法接受的国家安全风险。所以这里就形成了一个很有意思的矛盾：A I越危险，美国越希望控制发展速度；但A I越重要，美国就越不能允许自己在这场竞争里落后。最后真正出现的结果，很可能不是A I军备竞赛停止，而是一边讨论安全和pace，一边继续保持极高强度的A I投入。4、pace并不等于stop达里奥讲的是pace the frontier，核心是控制节奏，而不是停止A I发展。目前比较现实的方向，更多还是加强第三方安全评估、建立共同安全标准，以及在出现某些危险能力之后设置检查点。这些事情和明年少买一半G P U完全不是一个概念。至少到现在为止，还没有看到Anthropic、Open A I因为这个问题大规模削减数据中心建设，也没有看到几大C S P因此下调A I CapEx。所以现阶段我不会因为slow down几个字，就去下调A I硬件公司的长期盈利预测。当然，这件事情的风险也不能完全忽略。如果未来pace真的演变成限制Frontier Model训练使用的算力、限制超大G P U Cluster规模、减少模型训练次数，甚至政府直接对训练Compute设置上限，那性质就完全不同了，对G P U、服务器、交换机和光模块都会成为真正的基本面利空。但至少现在，距离这个阶段还比较远。5、未来真正巨大的算力需求，未必只是AI训练现在市场讨论A I硬件，经常还是盯着下一代G P T到底需要多少G P U，下一代Claude训练集群究竟有多大。但未来真正巨大的市场，可能越来越来自Inference。如果A I能力继续提升，真正进入Coding Agent、Research Agent、企业Work flow、搜索、科研甚至A I帮助A I研发，那么推理侧的计算量可能会非常大。所以即使未来Frontier Model的迭代周期稍微拉长，但与此同时模型越来越好用，用户数量大幅增加，每个用户的调用量继续增长，Agent数量也快速增加，整个A I算力需求依然可能保持高速增长。因此不能简单把模型迭代放慢，直接等同于G P U需求下降。中间还有一个非常重要的变量：A I到底有多好用。而我自己的感觉恰恰是，随着模型越来越聪明，A I对用户的吸引力是在明显提高的。当一个模型真的能够解决问题的时候，人是很难主动拒绝使用它的。6、回到A I硬件投资如果只是看新闻标题，Anthropic C E O呼吁放缓A I发展，Open A I和Musk也表示认同，第一反应确实偏利空A I硬件。但如果往深一层看，我反而没有那么悲观。因为这件事情同时透露出了另一个更重要的产业信号：今天最接近Frontier A I的一批人，不是在担心A I进步太慢，而是在担心A I进步太快。如果未来A I投资最大的风险是堆了这么多G P U以后，模型能力突然很难继续提升，那么达里奥现在担心的恰恰是另外一种情况：模型进步速度太快，安全体系开始跟不上。从A I硬件产业趋势来看，我反而认为后一种情况要健康得多。所以现阶段对于A I硬件，我还是主要观察三个东西：C S P CapEx有没有下修，G P U集群规模有没有缩小，800G、1.6T、3.2T以及NPO/CPO的升级节奏有没有变化。只要这几个指标没有发生实质性改变，我暂时不会因为几位A I C E O开始讨论pace the frontier，就改变对A I硬件中长期需求的判断。相反，我现在更感兴趣的问题是：为什么偏偏是在最近几个月，Anthropic、Open A I这些站在A I最前沿的公司，开始越来越密集地讨论A I能力增长过快、A I帮助A I研发，以及需要给前沿A I踩一点刹车？如果他们看到的真实情况是A I正在进入新一轮能力加速期，那么对于A I硬件投资者来说，这个信息可能比slow down这个新闻标题本身重要得多。7，最后简单总结一下达里奥这篇文章达里奥并不是A I悲观主义者，恰恰相反，他对A I未来的价值非常乐观。他认为A I未来5到10年有机会帮助解决大量重大疾病、大幅提高经济增长，并给社会带来巨大的生产力提升。他真正担心的是，A I的发展速度开始超过人类安全体系、可解释性研究和监管机制的建设速度。特别是随着A I越来越能够帮助A I研发，未来可能出现一种自我强化，因此他认为需要适当控制Frontier A I能力提升的节奏，让安全体系有时间跟上。但他的主张并不是停止A I发展，是pace，而不是stop。所以我觉得，达里奥这篇文章真正的核心观点是：他担心的不是A I发展不动了，而是A I可能开始发展得太快了；他想做的也不是让A I停止前进，而是在继续快速前进的同时，给人类的安全体系争取一点追赶的时间