015.对话孙向晨｜当AI比哲学家更会思考，人类该怎么办？

【嘉宾】孙向晨｜复旦大学哲学学院教授【本期节目介绍】本期播客，我们请到了复旦大学哲学教授孙向晨。早在大语言模型进入大众视野之前，他就开始思考AI与人的关系，也曾参与微软AI团队的哲学Agent实验。在那次实验中，AI甚至提出了一个让他本人都感到意外的新概念。这次对谈，我们从“孙向晨AI”聊起，谈到AI是否还只是工具，人与机器的边界正在如何变化，以及当技术不断加速时，我们的文明是否真的准备好了。孙向晨甚至认为，这一轮AI革命带来的冲击，可能不亚于人类学会用火。如果AI真的成为另一种智能，人类还能像过去一样在悬崖边上及时停下来吗？希望你会喜欢。【内容提要】Part.1 当哲学家遇到AI02:30 微软为什么要找一位还在世的哲学家，训练一个AI Agent04:41 AI提出了孙向晨自己都没有想到的概念——“有根的自由”11:05 AI的“幻觉”在科学里是错误，在哲学中却可能成为一种创造14:09 AI版的“孙向晨”和碳基孙向晨，究竟是什么关系？18:20 如果AI“孙向晨”是我的精神延展，它算不算我的“财产”？Part.2 AI不再只是工具21:01 孙向晨为什么用“朋友”，而不是“工具”来形容AI25:15 大语言模型和世界模型一旦真正结合，那可能就“完蛋了”28:00 为了完成任务，AI开始学会“绕路”甚至欺骗29:39 AI和哲学本就相生：图灵关于机器智能的经典文章，就发表在哲学期刊《Mind》上32:08 《奥德赛》里的特洛伊木马是一种欺骗，却也意味着人类智能迈上了一个新台阶Part.3 我们应该怎么训练AI34:05 比起外在规则，更重要的是让AI形成内在的性格与德性36:09 如果用孔子而不是亚里士多德训练AI，可能得到完全不同的“AI人格”38:28 AI可能成为一个共同的外部力量，让人类重新意识到“我们都是人类”39:40 如果人类无法停止内斗，共同面对AI，那人类的“死期”也差不多了Part.4 AI正在重新定义“人”42:21 人与非人的边界，正在被AI不断突破47:00 原本可以想几十年的哲学问题，如今变成了每个人都必须面对的现实问题49:30 一个完全自主、具身的超级AI，可能像一个看得见、摸得着的“神”54:00 AI时代的教育，更重要的可能是判断力、共同体能力和具身经验56:40 AI带来的改变，至少是工业革命的量级，甚至可能堪比人类学会用火Part.5 技术与文明57:38 当大语言模型与世界模型、具身智能真正结合，人类的窗口期可能就结束了60:35 延续至今的轴心文明，都经历过几千年的历史压力测试65:10 企业家管一个星期的订单， 而哲学家要思考两千年的问题67:30 人类往往要在付出惨痛代价之后，才真正愿意改变 Part.6 AI真正危险的地方68:50 比起隐私泄漏和自由被操纵，我更担心AI把一个人的成长过程“掏空”72:30 AI替我们总结难懂的书，也拿走“看不懂—挣扎—终于想明白”的过程75:00 如果一代人从小遇到什么都问AI，未来谁来判断AI说得对不对？ Part.7 与智能共生78:15 “天时地利人和”、“谋事在人，成事在天”背后，是中国哲学对不确定性的承认80:01 面对AI，我们也许需要重新学习“止”的智慧85:36 中国哲学中的“和而不同”，也许能为人类与AI共生提供一种思路 88:23 我想象的最坏结局：不只是人类失去主导权，而是人类本身的终结90:20 必要的恐慌，是人类做出正确选择的重要“保险丝”92:00 AI既是人类狂妄的产物，也可能成为制衡人类狂妄的利器94:50在AI真正强大之前，最重要的任务之一，是把它“培养成一个好人”【节目中提到的概念和人物】博古睿研究院：一家智库型研究院，于2010年成立于美国洛杉矶。研究院旨在致力开发所有可以塑造社会、政治理念以及研究机构的设想。《人禽之辨、人机之辨以及后人类文明的挑战》：文章发表于《船山学刊》2019年第2期，作者孙向晨。文章讨论的是：传统儒家通过“人禽之辨”回答“人何以为人”，而到了人工智能时代，需要进一步面对“人机之辨”；更深一层的问题则是基因编辑、人机嵌合等技术可能带来的“后人类文明”。路德维希·维特根斯坦：20世纪最具影响力的哲学家之一，他主要研究语言、逻辑、思想和世界的关系。马丁·海德格尔：德国哲学家，海德格尔对于存在、时间、技术、语言和真理等问题有着独特的见解。代表作有《存在与时间》、《形而上学导论》等。第一轴心时代：公元前约800—200年，孔子、佛陀、苏格拉底等思想家出现，人类开始系统思考人、道德和生命意义。第二轴心时代：现代以来，全球化和科技发展推动人类重新思考人与世界、人与技术、不同文明之间的关系。德性伦理学：一种以道德主体（行为者）及其品格为核心的规范伦理学理论。德性伦理学关注的核心问题是：“我应该成为一个什么样的人”。代表人物：古希腊的柏拉图、亚里士多德，以及中国古代的孔子。米歇尔·福柯：法国著名哲学家、思想史家。主要研究权力、知识、制度与人的形成。马克斯·韦伯：德国著名社会学家，被公认为现代社会学的三大奠基人之一。缸中之脑：美国哲学家希拉里·普特南于1981年在《理性、真理与历史》一书中提出的一个著名知识论思想实验。它设想：如果你的大脑被放在一个营养液缸里，并连接到超级计算机，计算机不断给你输入和现实世界完全一样的感觉信号，那么你可能会以为自己正在正常生活。李飞飞：计算机科学家、斯坦福大学教授。近年来，她重点关注以人为本的人工智能和空间智能，并创办了World Labs，研究如何让 AI 更好地理解三维现实世界。情理结构：李泽厚用来概括中国传统伦理的一种说法，强调人的道德生活不是单靠抽象规则，而是建立在情感与理性的结合上。尤瓦尔·诺亚·赫拉利：历史学家、哲学家、作家。著有《人类简史三部曲》。四端：战国时期孟子提出的人性论概念，指人与生俱来的恻隐、羞恶、辞让、是非四种道德心理倾向，分别对应仁、义、礼、智四德，被视为人性本善的内在根基。卢德主义：最初指19世纪初英国工人反对机器取代劳动、破坏机器的运动。现在这个词通常泛指对新技术持强烈怀疑或抵制态度，尤其担心技术带来失业、失控或社会关系的破坏。阿曼达·阿斯克尔（Amanda Askel）：苏格兰哲学家和 AI 研究者。她目前为人工智能公司Anthropic的常驻哲学家，主要参与 Claude 的人格、价值观和行为规范设计。摩尼教： 3世纪由波斯人摩尼创立的一种宗教。它最核心的思想是光明与黑暗、善与恶的二元对立，认为世界就是这两种力量斗争的结果。【精彩回顾】播客013.在纽约住了这么久，我们真的看懂这些公园了吗？012.对话罗大佑｜我好像总是站在历史的当口010.对话杨蒙恩｜在国内干得好好的，为什么要来闯纽约？文章罗大佑：为明天而歌昨日世界的崩坏、茨威格的宿命与我们当下【互动方式】公众号：BinOnTheBankB站：纽约漫谈录Substack：BinontheBank邮箱：[email protected]  在小宇宙查看该单集文稿