2月26日 | 隐形字符能控制 AI，你的文件可能已经被动过手脚

本期内容 AI 的威胁不只来自模型本身，更来自使用它的人、藏在文件里的隐形指令、以及悄悄进入职场的监控工具。本期从 OpenAI 的恶意使用报告出发，覆盖隐形字符注入攻击、MIT 把物理引擎塞进生成式 AI、Anthropic 收购 Vercept 推进 Claude 的计算机操作能力，以及汉堡王在员工耳机里部署 AI 监工五件事。听完这期，你会对"AI 安全"和"AI 进入工作场所"这两件事有更具体的理解，也会有几个值得立刻带回自己工作流的问题。 本期要点 - OpenAI 公开了一批用 AI 批量生成虚假内容和钓鱼邮件的账号，真正的 AI 安全问题核心在使用者身上 - Unicode 零宽字符可以在文件里藏入隐形指令，多数主流模型都会被影响，AI 代理的攻击面正在扩大 - MIT 把物理仿真引擎加进生成式 AI，输出的设计可以直接送去 3D 打印，生成物首次真正进入制造流程 - Anthropic 收购 Vercept，目标是让 Claude 稳定完成点击、拖拽、填表单等计算机操作，迈向"数字员工" - 汉堡王在员工耳机里部署 AI 助手 Patty，实时检测是否使用礼貌用语，AI 作为职场监控工具的案例正在增多 参考资料 Disrupting Malicious Uses of AI — https://openai.com/index/disrupting-malicious-ai-uses/ Reverse CAPTCHA: Evaluating LLM Susceptibility to Invisible Unicode Instruction Injection — https://moltwire.com（原文请见 Moltwire Research） Mixing Generative AI with Physics to Create Personal Items That Work in the Real World — https://news.mit.edu Anthropic Acquires Vercept to Advance Claude's Computer Use Capabilities — https://www.anthropic.com/news/acquires-vercept Burger King Will Use AI to Check If Employees Say 'Please' and 'Thank You' — https://www.theverge.com --- BearTalk 狗熊有话说播客，始于 2012 年。 订阅地址：https://beartalking.com/page/podcast