为什么新版AI拒绝回答简单的生物问题？

最强AI上线，却不肯回答基础问题 最近，一家叫Anthropic的公司发布了最新的人工智能模型——Claude Fable 5。公司说这是他们有史以来最强大的AI，尤其是在生物学方面特别厉害。但是，奇怪的事情发生了：这个AI拒绝回答很多非常简单的问题，比如“什么是线粒体？”、“细胞膜是什么？”、“花粉症是怎么引起的？”等等。这些问题是中学生都能回答的，但Fable 5就是不说。 不是不会，而是被“锁住”了 其实Fable 5完全知道答案，但它被公司设定了非常严格的“安全护栏”。公司担心，如果这个AI什么生物问题都回答，可能会被坏人利用来制造生物武器。所以，他们故意让AI对大部分生物问题“闭嘴”。当用户问这些问题时，Fable 5会交给上一代模型Claude Opus 4.8来回答，而Opus 4.8回答得很好。 公司发言人解释说：“我们做了这个取舍，让用户可以先用上强大的模型，同时避免风险。”他们还计划未来把没有限制的版本提供给真正的生物科学家，帮助他们研究新药。 其他领域也有“安全护栏” 除了生物学，Fable 5在化学、网络安全等领域也有一些限制。比如，它能简单介绍TNT炸药是什么，但不会告诉你怎么制造；它会回答关于网络安全的问题，但涉及危险物质（如沙林毒气）时也会拒绝。不过，相比之下，生物领域的限制是最严格的。 想一想：如果一个人工智能什么都能告诉你，你觉得安全吗？如果你是公司CEO，你会怎么做？ 未来会怎样？ Anthropic公司表示正在努力改进检测技术，减少这种“过度防守”带来的误判。但同时也意味着，我们在享受强大AI的同时，可能不得不接受一些限制。这是一个两难的选择：要安全，还是要自由？