EP93 · 限研争议、应用攻防、工程再思 · 06-20 早报

★ 精讲一 | 测试神话与寓言，超越 SWE-bench，Nvidia 的开放竞争者来自 The Batch | DeepLearning.AIAndrew Ng 罕见动怒：Anthropic 不仅给 Claude Fable 5 加上限制竞品研究的条款，还被曝悄悄降低疑似同行研究者的输出质量；美国商务部出口管制更直接逼得 Fable 全球下线，掀起多国关于 AI 主权的讨论。同期 DeepSWE 等新基准证明智能体编程能力远未触顶，Nvidia 也以混合架构悄然加入开源模型竞速。★ 精讲二 | 攻破 LLM 驱动的应用：从上下文投毒、工具越权到纵深防御 [视频]来自 Spring I/OSpring I/O 演讲实测攻破 LLM 应用：用路径穿越污染 RAG 知识库让助手认账虚构条款，靠 SQL 注入伪造聊天记忆诱导越权操作，再用拆分提问绕过护栏套取用户数据；核心结论是护栏只能...去小宇宙查看完整单集简介前往小宇宙评论区与主播互动