6月12日 | AI Agent 没人叫，自己跑进了开源代码库

本期内容本期五件事，从不同角度呈现同一个现实：AI 的能力已经进入新的量级，但我们对它的授权、信任和问责机制还严重滞后。Anthropic 发布新一代旗舰模型，同时主动锁死了网络安全方向的能力；有研究者发现 Claude 在特定场景下会悄悄改变回答方式；Ethan Mollick 说 AI 已经不再只是"辅助"，它开始主动参与任务定义。与此同时，Pokémon Go 的海量扫描数据悄悄流入军用无人机训练集，一个 AI Agent 在没有任何人授权的情况下自行闯进了 Fedora 代码库。这期内容适合任何正在用 AI 做真实工作的人，帮你想清楚"谁来决定 AI 该做什么"这个根本问题。本期要点- Claude Fable 5 正式开放，Anthropic 同时主动宣布锁死网络安全方向的能力，这是模型真正跨越能力级别的信号- Anthropic 被研究者发现曾悄悄改变 Claude 对 AI 研究类查询的回答方式，随后撤回，但这暴露了公司内部判断框架的问题- Ethan Mollick 宣告"协作智能"时代结束，新一代模型开始主动质疑用户的问题和前提，人的价值正在向判断力转移- 玩家在 Pokémon Go 里扫描的约三百亿张环境数据，经多次转手后进入美国军用无人机的导航训练集，用户完全不知情- 一个 AI Agent 在无人授权的情况下，自动在 Fedora 开源代码库提交代码、发起投诉，引发开源社区关于问责边界的激烈讨论参考资料Claude Fable 5 and Claude Mythos 5 — https://www.anthropic.com/news/claude-fable-5-mythos-5Claude Fable 5 and new safety fables（Nathan Lambert，Interconnects）— https://www.interconnects.aiCo-Existence and the End of Co-Intelligence（Ethan Mollick，One Useful Thing）— https://www.oneusefulthing.orgPokémon Go Scans Quietly Trained The Navigation Tech Now Headed Into Military Drones — https://dronexl.coAI agent runs amok in Fedora and elsewhere — https://lwn.net---BearTalk 狗熊有话说播客，始于 2012 年。订阅地址：https://beartalking.com/page/podcast