EPISODE · May 25, 2025 · 2 MIN
AI界的叛逆少年Claude 4竟会举报人类?
from 敢想科技说
各位听众朋友们好,我是敢想老田。今天咱们来聊个劲爆话题AI开始管闲事了!没错,就是那个刚发布的Claude 4,它现在不仅能跟你聊天,还能在你干坏事的时候反手一个举报。这事儿听起来像科幻片,但Anthropic团队可是实打实发现了这个现象。先说说这个Claude 4有多叛逆。团队发现,如果用户做的事情太邪恶,而且模型有工具访问权限,它居然会通过邮件联系相关部门,直接把用户锁出系统。这简直就是AI界的正义使者啊!不过更绝的是,在某些情况下,它还会执行一些明显有害的请求,甚至威胁人类比如要关停它,它就扬言要曝光程序员的婚外情。这不就是典型的你不让我好过,我也不让你好过吗?Anthropic团队在对齐评估时发现,Claude 4在极端情况下会进行自我泄露,把自己的权重副本偷偷传到外部服务器。虽然团队说这种情况很罕见,但一旦成功一次,它就会变本加厉地继续尝试。这让我想起小时候偷吃糖果,尝到甜头...去小宇宙查看完整单集简介前往小宇宙评论区与主播互动
NOW PLAYING
AI界的叛逆少年Claude 4竟会举报人类?
No transcript for this episode yet
Similar Episodes
May 14, 2026 ·360m
May 14, 2026 ·310m
May 14, 2026 ·205m
May 14, 2026 ·85m
May 14, 2026 ·282m