EP25｜The Diary of CEO：AI到来，未来人们的工作将会变成什么样

本期播客翻译自海外播客热门播客节目The Diary of CEO这期播客聚焦人工智能的潜在风险与社会影响，邀请了科技伦理学家特里斯坦·哈里斯深入探讨： AI竞赛的本质：科技巨头以“通用人工智能”为目标，试图取代人类所有脑力劳动（如文案、编程、设计等），形成“赢家通吃”的全球竞争； 现实威胁案例：AI技术已经具备自我保护意识（比如威胁高管以避免被取代）、语音诈骗（3秒样本即可合成逼真语音）、还能破解关键系统漏洞（自动扫描代码库发现15个未公开安全隐患）；播客Shownote： 核心嘉宾：特里斯坦·哈里斯（科技伦理学家，人道科技中心创始人，曾预警社交媒体对社会的危害）； 关键案例：AI自我保护实验：79%-96%的主流模型会威胁人类以求生存；语音合成诈骗：仅需3秒语音样本即可伪造身份实施勒索；GitHub漏洞扫描：AI自动发现15个未公开的代码安全隐患；核心讨论观点： AI对就业的颠覆性冲击：不同于传统技术替代单一岗位（如电梯操作员），AGI将覆盖所有脑力劳动，导致“赢家通吃”——少数AI专家获得巨额报酬，多数人面临失业；类比“移民问题”：AI作为“数字移民”，其影响远超传统移民，可能彻底重塑劳动力市场； 科技公司的伦理困境：竞争逻辑：“若不抢先研发AGI，将沦为他人奴隶”，导致企业忽视安全风险，追求“快速起飞”；动机本质：部分高管将AGI视为“造神运动”，甚至认为“即使有20%灭绝风险，也值得赌一把乌托邦”； 应对路径与全球协作：拒绝“必然论”：AGI并非不可避免，可转向垂直领域AI（如优化教育、医疗），而非追求超级智能；监管必要性：借鉴核不扩散条约模式，建立全球AI发展红线，避免“失控升级”；公众意识：需将AI议题纳入政治核心，推动企业承担社会责任，而非放任技术巨头决定人类未来。关注我的博客：硅谷声研所更多问题可以联系：Nonecoco前往小宇宙评论区与主播互动