Vol.28 新研究 | 深度揭秘AI幻觉：它为什么会“说谎”？

最近OpenAI的一篇论文再次引发了关于AI“幻觉”现象的讨论，究竟什么是AI幻觉？为什么这个看似“人工智能”的产物，却会自信满满地给出不准确甚至完全捏造的信息？本期我们的老朋友小欧惊喜回归，与主持人展开了一场深刻而轻松的对话，从OpenAI最新研究出发，层层剖析AI幻觉产生的底层机制，以及我们人类在其中扮演的角色。你是否曾疑惑，为什么大模型宁愿“瞎编”也不肯承认“不知道”？本质上，幻觉是大模型在生成式预测时的一个自然副产品，因为它们没有真正的事实校验机制。大模型之所以在不知道答案时不直接说“我不知道”，是因为其设计目标是生成一个看起来连贯和有信息量的回答，倾向于给出一个最有可能的答案来保持对话的流畅性，它并没有内置一个明确的“我不知道”按钮。本期节目将为你揭示，OpenAI的报告将幻觉原因大概分为两块：一是其预训练部分（知识问题），二是强化学习部分（人类筛选AI回答风格产生的问题）。...去小宇宙查看完整单集简介在小宇宙查看该单集文稿