EP15 AGI 不只是更聰明的 ChatGPT？ DeepMind 給了我們一份未來防災手冊

EP15 AGI 不只是更聰明的 ChatGPT？ DeepMind 給了我們一份未來防災手冊 Google DeepMind 在 2025 年 4 月發表的技術白皮書《An Approach to Technical AGI Safety and Security》，不只是理論研究，而是一次對「AI 安全」的實戰級總體檢。 ● 兩大風險來源你不能不知道： 1. Misuse 濫用：有人用 AI 做壞事（駭客、武器、假資訊） 2. Misalignment 不對齊：AI 自己做決定，方向跑偏，後果自負 ● DeepMind 提出五層防線，從訓練到部署都不能掉以輕心： √ 危險能力識別（Dangerous Capability Evaluations） √ 安全微調 + 紅隊測試 √ 存取控制 + 系統監控 + 沙箱環境 √ 擴增監督（Amplified Oversight）：AI 監控 AI √ 安全論證（Safety Case）：讓每一步都能被審核、驗證、信任 ● 台灣呢？我們也不能缺席！ 建議政府與業界三大行動方向： 1. 建立「高風險 AI 登記與審查制度」 2. 制定「AI 安全測試國家標準」 3. 推動「開發者自律安全報告書制度」 ● 這不只是 AI 發展的問題，而是台灣要不要搶下未來科技治理話語權的關鍵。 ● DeepMind 的策略強調一件事：「安全不是靠運氣，而是靠工程」。與其事後救火，我們該現在就開始造滅火器。 留言告訴我你對這一集的想法： https://open.firstory.me/user/cmabwdmf4033j01w17p8r9h1g/comments 圖靈學院原文:https://pse.is/7kcfbl ********** 利創智能/圖靈學院是您 AI及 ESG的專業伙伴。 NotebookLM在今(2025)年5月，已擴大支援包含中文在內的 50 多種語言的語音摘要功能，而且根據地區，給了我們台灣腔的自然對話分析語音，相當有趣。 雖然在某些較專業的用辭(例如ISO90001的口語念法、某些事件的時態，仍然，有些錯誤及不自然)，但，整體而言，已經是相當強大的結果了。 因此，我們決定推出Podcast，利用NotebookLM語音摘要功能，將我們累積了200多篇的圖靈學院文章，都轉為語音形式，方便沒有時間看文章的朋友，可以用聽的，來了解我們的觀點。 除此之外，也因為Podcast內容，將都是使用LM生成的語音內容，隨著NotebookLM愈來愈成熟，語音品質也會愈來愈真實，因此，隨著時間推移，也會見證LM的進化過程，想必也會很有趣。 語音內容中，男聲將設定為科楠老師，女聲將設定為艾碧小姐，圖靈學院中的文章，將由他們兩位進行對談分析(雖然有時也會跳脫這樣的設定)，且每一集的Podcast的說明欄中，也會附上原始文章的連結，方便聽眾朋友若有不清楚的地方，可以前往查閱。 感謝大家的支持，陪著我們利創智能一起見證這個進化的過程。 ➡利創智能網站：https://ibco.com.tw/ ➡利創智能Facebook：https://www.facebook.com/profile.php?id=61559212178627 ➡利創智能Instagram：https://www.instagram.com/intellbenefit?utm_source=ig_web_button_share_sheet&igsh=ZDNlZDc0MzIxNw== ➡訂閱我們的電子報:https://lb.benchmarkemail.com//listbuilder/signupnew?IkfHTmyPVq9hwzdQ18VMzv5pwVnAjsSIhg396GxuKGXtO5iNRn8gSyp0RW5HI7%252FzNyIeD9VsXLU%253D 什麼問題想問科楠老師嗎？提問&合作信箱：[email protected] Powered by Firstory Hosting