EP129：【Edge Computing & AIoT】RAG加上Cortex-A CPU，讓你養小龍蝦也沒有問題 Ft. Odin Shen 沈綸銘 Arm 解決方案首席架構師

本集必聽：(00:00:00) 開場(00:02:50) 本地端 RAG（檢索增強生成）核心優勢：資料留在設備／內網，不用上雲也能做到高隱私、低延遲(00:06:40) 本地 LLM × RAG：不靠雲端 API 堆 token，回答更可溯源、更可靠，邊緣 AI 更不怕「亂講」(00:14:00) Cortex-A / Cortex-X 的穩定效能：把檢索、前後處理等工作跑在本地，體驗更順、更穩，邊緣應用「養小龍蝦」也沒問題 Arm 教學內容 portal: https://learn.arm.com/本集教學內容: https://learn.arm.com/learning-paths/laptops-and-desktops/dgx_spark_rag/ https://learn.arm.com/learning-paths/laptops-and-desktops/dgx_spark_voicechatbot/相關 blog:https://developer.arm.com/community/arm-community-blogs/b/ai-blog/posts/rethinking-the-role-of-cpus-in-ai-a-practical-rag-implementation-on-dgx-sparkhttps://developer.arm.com/community/arm-community-blogs/b/ai-blog/posts/rethinking-voice-ai-at-the-edge-a-practical-offline-pipeline-on-dgx-spark ------------------------------------------IC之音行銷企劃科技首都，幸福竹縣 AI領航，永續家園3月17到20號歡迎蒞臨台北南港展覽館2館「2026智慧城市展」看新竹縣如何以AI智慧治理精準佈局交通、產業、教育、安全、環保，同時榮獲「智慧城市創新應用獎」邀請您，親臨現場見證縣民高效幸福，共創智慧未來！以上為新竹縣政府廣告 ------------------------------------------製作 | 李翊嘉科技產業瞬息萬變，訊息有真有假、有輕有重， 我們如何在最短的時間內，掌握最重要的資訊？DIGITIMES 與商周攜手推出聯合方案，帶你看懂商業，也看透科技，雙重專業視角幫助你全方位掌握產業趨勢。了解「DIGITIMES 與商周聯購方案」：https://dgt.ms/app_subscribe