6月2日 | Instagram 被骗走的账号，漏洞不在代码里

本期内容Anthropic 发布 Opus 4.8，首次让用户主动控制 AI 的推理投入程度，Fast Mode 让同等预算可以处理三倍工作量。与此同时，沃顿教授 Ethan Mollick 提出一个反向观点：当 AI 内容淹没社交平台，选择保留人的在场感本身就是一种差异化。本期还涉及 Anthropic 如何在生产环境里给 Claude 划定权限边界、Jack Clark 试图给 AI 灭绝风险定价，以及一个靠骗客服就能接管 Instagram 账号的荒唐漏洞。五件事背后有一条共同的线：我们正在给越来越强大的系统设计边界，但设计得好不好，差别很大。本期要点- Claude Opus 4.8 新增可调节的精力级别控制和 Fast Mode，同等预算下处理能力大幅提升- Ethan Mollick 认为 AI 内容泛滥让真实人声变成稀缺资源，刻意保留人的痕迹是有效的差异化策略- Anthropic 工程团队用"爆炸半径"框架管理代理权限，建议从只读权限开始部署再逐步扩展- Jack Clark 在 Import AI 讨论用市场机制给 AI 灭绝风险定价，并指出 AI 监督本身随模型变强而愈发困难- Instagram 账号被接管事件的根源不是技术漏洞，而是账号找回的人工流程可以被社会工程绕过参考资料Introducing Claude Opus 4.8 — https://www.anthropic.com/news/claude-opus-4-8Choosing to Stay Human (Ethan Mollick) — https://www.oneusefulthing.orgHow we contain Claude across products — https://www.anthropic.com/engineeringImport AI #459: AI oversight is difficult; pricing the extinction risk of AI systems (Jack Clark) — https://importai.substack.comThe Newest Instagram 'Exploit' Is the Goofiest I've Seen (Sid) — https://0xsid.com---BearTalk 狗熊有话说播客，始于 2012 年。订阅地址：https://beartalking.com/page/podcast