6月9日 | AI 开始自己训练自己，这条线越过就回不去了

本期内容这一期围绕一个共同底色展开：那些我们以为很稳定的东西，正在悄悄改变形状。Anthropic 说 AI 已经开始参与自身的训练过程，这条线一旦越过，意味着什么？Google 把用了二十五年的搜索框彻底改了，我们用关键词思考的习惯也得跟着变。一个十年工程师坦白说他的判断力正在贬值，而他不知道怎么办。Jack Clark 提出了一个更大的问题：当百万 AI 代理同时测试规则边界，我们的激励机制设计还够用吗？最后一个新词"多巴胺压裂"，帮你看清注意力经济正在对你做什么。本期要点- Anthropic 报告：AI 已开始参与训练下一代 AI，递归自我改进可能比大多数机构准备好的时间来得更早- Google 在 I/O 大会宣布重新设计搜索框，这是 1998 年以来搜索入口第一次真正改变形态- 一位十年后端工程师公开坦白：LLM 让他积累了十年的判断力变得不再重要，而他不知道出路在哪里- Jack Clark 在 Import AI 460 期分析 SocioHack 研究：AI 代理可以集体性地榨干任何规则体系的有效性，产品激励设计面临全新威胁模型- "多巴胺压裂"这个新概念帮你识别一种模式：当某个你喜欢的活动只剩纯刺激、失去层次感，它很可能正在被压裂参考资料When AI Builds Itself — https://www.anthropic.com/news/claude-opus-4-8Google Just Redesigned the Search Box for the First Time in 25 Years — https://venturebeat.comLLMs Are Eroding My Software Engineering Career and I Don't Know What to Do — https://human-in-the-loop.bearblog.devImport AI 460: Reward Hacking Society — https://importai.substack.comDopamine Fracking — https://igerman.cc---BearTalk 狗熊有话说播客，始于 2012 年。订阅地址：https://beartalking.com/page/podcast