Anthropic长文《When AI builds it self 》精华

Anthropic最近发布的万字长文，“AI 加速 AI”这一趋势已经在现实中出现，讨论了这种潜在的“递归自改进”对生产力、风险与治理的深远影响。摘要：1. 一旦 AI 能够完全自主地设计和开发自己的下一代，它将成为科技史上的重大转折点。2. 在 Anthropic，如今超过 80% 合入代码都是由 Claude 写的，工程师更多是在指挥与审阅，而不是亲自敲代码。3. 目前人类仍然保有的比较优势，在于看见更大的图景，并且能跳出眼前任务的边界去思考。4. 所谓“研究品味”也许只是另一种 AI 能力：先在一段时间里做不好，随后逐渐变得擅长。5. 未来一种很可能的图景是：一百人的公司可以做一万甚至十万人的事，因为每个人身后都站着一座由智能体构成的“金字塔”。6. 让世界真正拥有“可以按下慢速键或暂停键”的选项，前提是我们先打造出一整套可验证他方确已刹车的制度与技术。7. 我们尚不...去小宇宙查看完整单集简介在小宇宙查看该单集文稿