#153. 人工智能教父Geoffrey Hinton：AI的真实风险与人类的未来

📝 本期播客简介本期我们克隆了全球顶尖商业及励志播客之一《The Diary of a CEO》。主持人 Steven Bartlett 深度对话了被誉为“人工智能教父”的杰弗里·辛顿（Geoffrey Hinton）博士。辛顿博士，这位图灵奖得主，是深度学习领域的奠基人之一，他的工作塑造了我们今天所认知的人工智能。然而，在为AI奉献了半个世纪之后，他为何选择离开谷歌，并转而向世界发出关于AI潜在风险的严峻警告？节目中，辛顿博士将坦诚分享他对AI未来发展的忧虑，包括超级智能可能带来的生存威胁、AI技术滥用（如网络攻击、自主武器、选举操纵），以及对就业市场的颠覆性冲击——他甚至一度建议人们去接受培训当水管工。这不仅是一场关于AI技术利弊的深刻探讨，更是对人类未来命运及我们应如何应对挑战的严肃拷问。👨‍⚕️ 本期嘉宾Geoffrey Hinton博士，被誉为“人工智能教父”，图灵奖得主。他是深度学习领域的奠基人之一，对人工神经网络的发展做出了关键贡献。曾在谷歌工作十年，后因对AI潜在风险的担忧而离职，致力于向公众警示AI可能带来的生存威胁。📒文字版精华见微信公众号（点击跳转）⏱️ 时间戳00:00:00 开场白与节目介绍Geoffrey Hinton的AI之路与当前使命00:04:23 为何被称为“人工智能教父”：五十年对神经网络的坚持00:06:44 当前使命：警告世界AI的潜在危险00:08:04 看法转变：从对AI能力乐观到警惕数字智能的优越性AI风险的全面剖析00:09:53 两类AI风险：人为滥用与超级智能失控00:10:29 超级智能的生存威胁：未知与概率（10-20%的毁灭可能）00:12:39 AI与核武器的比较：AI更难控制，用途广泛00:13:49 监管困境：欧洲法规的军事豁免与国际竞争00:15:12 人为滥用风险之一：网络攻击（网络钓鱼、AI克隆诈骗）00:19:52 人为滥用风险之二：AI制造恶性病毒00:21:07 人为滥用风险之三：操纵选举与数据隐私00:22:56 人为滥用风险之四：算法导致的信息茧房与社会极化00:30:14 人为滥用风险之五：致命性自主武器（LAWs）的威胁00:32:54 超级智能的应对：如何防止其产生“清除人类”的念头AI对行业与个人的影响00:36:52 Hinton对自己工作的反思与责任感00:38:31 对OpenAI及领导者动机的担忧 (Ilya Sutskever, Sam Altman)00:45:00 AI对就业的冲击：日常脑力劳动将被取代00:54:25 职业建议：成为一名水管工00:56:52 AI加剧财富不平等与全民基本收入（UBI）的讨论AI的本质与未来00:58:59 数字智能的优越性：克隆、高效学习与不朽性01:04:02 AI的创造力、主观体验与情感：挑战人类独特性01:08:58 AI意识的探讨：哲学与实践的边界01:15:25 加入谷歌的初衷与离开的原因个人反思与对世界的忠告01:21:23 对世界领导者和普通人的建议01:22:08 Hinton的显赫家族背景01:23:35 人生建议与遗憾：坚持直觉与陪伴家人01:26:39 对AI安全的最后呼吁：投入资源研究控制方法01:28:01 对人类幸福的最大威胁：失业与目标感丧失01:30:29 总结与对未来的不可知🌟 精彩内容AI教父的警告: Hinton博士分享了他对AI超级智能可能带来生存威胁的深切忧虑，以及为何从AI的积极推动者转变为主要的风险警示者。具体风险剖析: 详细讨论了AI被滥用于网络攻击、制造生物武器、操纵选举、信息茧房以及开发致命自主武器的多种途径。就业市场的颠覆: Hinton预测AI将大规模取代常规脑力劳动，并建议人们考虑从事像水管工这样难以被AI替代的职业。AI的本质探讨: 深入探讨了数字智能相比生物智能的优越性（如知识共享速度、不朽性），以及AI是否可能拥有创造力、主观体验、情感乃至意识。科技巨头的责任与动机: 对大型科技公司（包括前雇主谷歌和OpenAI）在追求利润与确保AI安全之间的平衡表示担忧。个人反思与忠告: Hinton分享了个人职业生涯的感悟、对家庭的遗憾，并呼吁社会高度重视AI安全研究，以避免潜在的灾难性后果。🌐 播客信息补充翻译克隆自：Godfather of AI: I Tried to Warn Them, But We’ve Already Lost Control! Geoffrey Hinton本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的使用 AI 进行翻译，因此可能会有一些地方不通顺；如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight