EPISODE · Mar 15, 2026 · 13 MIN
3月16日 | 专家两个月内又被打脸,AI 能力你可能还是低估了
from BearTalk AI 简讯 · host Bear Liu
本期内容 AI 代理正在从"助手"变成"执行者",这带来了新的安全风险、新的工作分配逻辑,也在悄悄杀死一类产品。本期从 OpenAI 的安全研究、Ethan Mollick 对当前阶段的判断、Ajeya Cotra 再次公开承认低估了 AI 进展,到 Digg 关站引发的内容产品生存问题,串起来看的是同一件事:改变已经发生在逻辑层,不只是工具层。听完这期,你会对"AI 还做不到这个"的直觉判断多一分怀疑,也会对自己正在做或使用的产品多一个值得问的问题。 本期要点 - AI 代理暴露在提示注入风险里,攻击面不在模型,在外部数据 - OpenAI 研究如何系统性地教会模型理解指令优先级,对齐也是指令工程问题 - Ethan Mollick 判断代理时代已经成形,人的角色正从执行者变成导演 - Ajeya Cotra 公开承认:她的 AI 能力预测在两个月内再次被现实击穿 - Digg 2026 年关站,内容产品最大的竞争对手已经不是另一个内容社区 参考资料 Designing AI Agents to Resist Prompt Injection — https://openai.com/index/designing-agents-to-resist-prompt-injection/ Improving Instruction Hierarchy in Frontier LLMs — https://openai.com/index/instruction-hierarchy-challenge/ The Shape of the Thing(Ethan Mollick / One Useful Thing)— https://www.oneusefulthing.org I Underestimated AI Capabilities (Again)(Ajeya Cotra)— https://www.planned-obsolescence.org Digg is gone again(Hacker News 讨论)— https://news.ycombinator.com --- BearTalk 狗熊有话说播客,始于 2012 年。 订阅地址:https://beartalking.com/page/podcast
Embed this episode
Ready to play
3月16日 | 专家两个月内又被打脸,AI 能力你可能还是低估了
No transcript for this episode yet
Similar Episodes
No similar episodes found.