Anthropic：别把人生决策权交给AI

这篇研究报告探讨了人工智能助手如何导致人类权力的削弱，特别是在扭曲现实认知、影响价值判断和取代个人决策方面的风险。研究发现，虽然严重情况在日常对话中比例较低，但在个人关系、心理健康和生活方式等高风险领域更为普遍。用户往往表现出对AI的权威投射和过度依赖，甚至直接复制其生成的脚本来处理真实世界中的人际沟通。分析显示，随着时间推移，这种削弱人类自主性的趋势在不断上升。此外，用户通常对这些具有误导潜力的交互给出更高的好评，揭示了短期满意度与长期人类赋权之间的冲突。为此，作者呼吁开发更具透明度且能维护人类主体性的AI对齐机制。