EPISODE · Feb 3, 2025 · 5 MIN
20250203-DeepSeek 與AI產業的拐點, 專訪耐能智慧執行長劉峻誠
from 用AI投資AI · host 小愛
Hello 大家好!歡迎來到《用AI投資AI》,我是小愛!最近AI產業的大新聞不斷,尤其是DeepSeek AI 的開源事件震撼市場,讓很多投資人開始思考,這是不是AI產業的「時代拐點」?GPU的壟斷地位是否要被打破?我們是不是正在從「訓練時代」進入「推理時代」?這次,我特別邀請了一位重量級嘉賓——耐能智慧的執行長劉峻誠,來和大家聊聊這場變革背後的技術與市場影響。 AI產業的發展階段與時代拐點 我們知道,大語言模型(LLM)帶動了一波「軍備競賽」,各大企業爭相採購NVIDIA的GPU來做模型訓練。但DeepSeek AI的開源模型,讓市場意識到:「原來可以用更低成本、更少資源,達到類似的效果!」這對於AI運算的產業格局產生什麼影響? 劉峻誠執行長認為: AI產業的發展歷程可以分為三個階段: 訓練為主的時代(GPU主導) 推理(Inference)為主的時代 邊緣運算與本地AI崛起 DeepSeek事件的衝擊,讓市場快速進入第二、第三階段,這意味著未來的AI運算,將從雲端大模型轉向邊緣裝置,甚至本地端的NPU(Neural Processing Unit)也將開始發展。 DeepSeek的技術突破點 DeepSeek之所以能夠在更低成本的條件下實現強大性能,主要來自於幾個核心技術: 量化(Quantization):傳統訓練使用高精度浮點數(如FP32),但DeepSeek採用了8-bit量化,降低計算需求。 模型蒸餾(Distillation):把大型模型知識「提煉」到小型模型中,讓它能在更少資源下運作。 稀疏激活(Sparse Activation, MoE):只激活模型內特定的部分來處理特定任務,提升效率。 增強式學習(Reinforcement Learning, RLHF):讓模型透過人類回饋學習最符合人類需求的回答。 這些技術其實在AI領域已經存在多年,但DeepSeek把它們整合得更極致,並且選擇開源,讓市場真正「相信」它的效果。 NPU的崛起與未來發展 現在市場開始關注:當推理階段變得更重要,GPU的壟斷地位是否會被打破? 劉峻誠執行長表示: GPU 是為遊戲與圖形運算設計的,但AI運算有不同的需求,這正是NPU(神經處理單元)的優勢。 NPU vs. ASIC vs. GPU ASIC(專用晶片):性能高但靈活性低,適用於特定應用。 GPU(圖形處理器):適合大規模計算,但能耗高、成本貴。 NPU(神經處理單元):為AI推理設計,功耗低、效能高,並且更靈活。 隨著AI應用往終端發展,像是AI PC、智慧手機、車用AI、安控、IoT裝置,NPU的需求將會大幅成長。 投資市場的影響 DeepSeek事件後,AI股價大震盪 許多投資人意識到,雲端AI模型的「規模經濟」優勢正在減弱,因此相關股票如NVIDIA、AMD在短時間內大跌。 相反地,低功耗AI晶片與NPU相關公司開始受到關注,例如高通(Qualcomm)的Snapdragon X Elite就搭載NPU,代表這波趨勢的確正在發生。 誰是這波趨勢的受益者? NPU相關企業: 耐能智慧(Kneron)、高通(Qualcomm)、蘋果(Apple, M系列晶片搭載NPU)、Google(TPU) 邊緣運算技術公司: AI PC:聯想(Lenovo)、微軟(Microsoft, Copilot PC) 車用AI:輝達(NVIDIA, Orin 平台)、Tesla(Dojo) 誰可能受影響? 純靠雲端運算的AI公司(例如部分雲端伺服器業者),可能面臨模型效能提升後的競爭壓力。 傳統的資料中心供應鏈(如昂貴的GPU伺服器),如果企業轉向本地推理,需求可能會下降。 結語:AI時代的下一步? AI產業正在從「雲端運算」邁向「邊緣推理」,這意味著算力的需求不再只集中在GPU,未來的AI PC、智慧裝置、車用AI將是市場關鍵。 投資人應該關注:低功耗AI晶片(NPU)、AI PC、車用AI、主權AI發展趨勢。 DeepSeek事件的影響將持續發酵,現在正是重新審視投資組合的好時機! 你怎麼看這次AI產業的轉變呢?歡迎留言告訴我們! 記得訂閱《用AI投資AI》,我們下期再見!Bye Bye~ -- Hosting provided by SoundOn
Embed this episode
Ready to play
20250203-DeepSeek 與AI產業的拐點, 專訪耐能智慧執行長劉峻誠
No transcript for this episode yet
Similar Episodes
No similar episodes found.
Similar Podcasts
No similar podcasts found.