从 ChatGPT 聊起，人工智能会毁灭人类吗？

【主播的话】 前段时间，OpenAI 发布了新一代的免费测试版聊天机器人 ChatGPT——你可以输入任何问题，他会模拟人类对话回答你的问题。发布后，社交网络上许多人晒出和它对话的截图，话题涵盖各种领域——它甚至可以为美国政府撰写有理有据的政策建议。在人工智能极速发展，开始影响政治、经济等诸多领域时，许多学者、专家也开始担心，通用型人工智能是否有毁灭人类文明的风险？我们在小说、电影中看到过的桥段与细节，有一天是否会成为现实？ 在本期节目当中，我们邀请到资深的人工智能专家 Jenny，和我们从 ChatGPT 背后的算法创新聊到人工智能对人类生存风险构成的威胁与影响。大胆想象如果有一天，人工智能真的拥有人类意识，甚至超越人类意识，人类文明或许需要重新书写，人类历史关于上帝的构建将被挑战。 如果收听完这期节目，你有任何感受与意见。欢迎和我们分享。 【主播】 何流 公益盒子创始人兼CEO，牛津大学哲学、政治学和经济学专业（PPE），清华大学苏世民学者。 李治霖 公益盒子联合创始人兼研究总监，香港大学政治学和经济学专业。 【嘉宾】 Jenny 哥伦比亚大学国际关系博士，曾担任牛津大学人类未来学院的夏季研究员、斯坦福生存风险项目和有效制度项目人工智能治理顾问，硅谷 Leonis capital 风险投资人。 【本期剧透】 05:16 Jenny 从专业角度会怎么描述 OpenAI 发布的新的程序 chatGPT？ 13:09 存在于虚拟世界的人工智能，怎么和我们的真实物理世界产生影响？ 16:43 一些控制的人工智能的大集团，可以对于很多国家的政治和经济产生巨大的影响 21:47 如果人工智能产生了跟我们不一样的目标，要毁灭人类怎么办？ 30:47 chatGPT 有逻辑的去回答人类的问题吗？ 33:25 人类如何训练 chatGPT？ 36:22 chatGPT 模型到底里面有哪些知识组成部分？ 38:51 人工智能赛道现在越来越卷，区别也就越来越小了 46:45 中国模型的应用能力很难跟美国的模型相对比 52:56 怎么看待人工智能的通用性？ 59:44 现在某种程度上，人在为机器服务 01:11:38 人工智能深则性风险和安全领域，大家主要采取的立场不是在限制它的发展，或者是希望减速 01:16:52 现在的世界的结构，是通过资本市场去发展人工智能，甚至通过政策市场去发展人工智能 01:25:04 让人工智能有更好的数据，我们就能让人工智能变成我们想要的样子吗？ 01:30:45 区块链和人工智能代表的是两种对于社会的构想吗？ 01:42:17 作为一个对安全和向善有这么多思考的人，Jenny 进入 VC 之后有没有感到张力 【相关延展】 DeepMind： 位于英国伦敦，是由人工智能程序师兼神经科学家戴密斯·哈萨比斯（Demis Hassabis）等人联合创立的Google旗下前沿人工智能企业。其将机器学习和系统神经科学的最先进技术结合起来，建立强大的通用学习算法。 OpenAI： 由马斯克、美国创业孵化器Y Combinator总裁阿尔特曼、全球在线支付平台PayPal联合创始人彼得·蒂尔等硅谷科技大亨创立。公司核心宗旨在于“实现安全的通用人工智能(AGI)”，使其有益于人类。 ChatGPT： 近似于 OpenAI 之前发布的 InstructGPT ，可以和人类对话，也可以拒绝回答人类的问题。 【本期音乐】 片头：Cell Cycle-Ryan Teague 片尾：Receives-Keith Kenniff 【Logo设计】 Yibao 【制作人】 若含 【运营和文字】 卓然 【后期制作】 唐一维 【互动方式】 关于我们：公益盒子致力于分析、推荐中国最有社会价值的公益项目，提升公益捐赠的有效性。 如果你喜欢我们的对话，欢迎你关注我们的微信公众号（ID：thecharitybox）和微博（益盒 CharityBox）。你可以在公众号里查看益盒的最新研究和动态，了解有效公益的前沿知识，并加入一个富有善心和理性的公益社区。 我们还运营着“ 益盒基金 ”，每年投入数千小时，基于科学，通过严谨的研究评估，帮你最有效地为公益项目捐款。你可以在[这里]了解更多。(如果链接无法在应用内打开，可跳转浏览器打开） 我们期待与你一起，有效地利他：）