@cohere：Cohere 發布 Command A+ 強化企業級推理。 Cohere 正式推出 Command A+ 模型，這是一款基於 Sparse Mixture…

Cohere 發布 Command A+ 強化企業級推理。 Cohere 正式推出 Command A+ 模型，這是一款基於 Sparse Mixture-of-Experts (MoE) 架構的開源大型語言模型。該模型擁有 218B 總參數與 25B 活躍參數，專為企業級 Agentic 任務、多模態理解及複雜推理設計。透過 Apache 2.0 授權釋出，Cohere 旨在推動「主權 AI」（Sovereign AI），讓開發者能在自有環境中部署具備高效能的企業級 AI 系統。 核心效能與架構優勢 Command A+ 在多項企業工作負載中表現顯著優於前代 Command A 系列模型。其架構設計重點在於提升推理效率與多步驟任務處理能力： 推理與程式開發：在「Terminal-Bench Hard」測試中，Agentic 程式開發效能從 3% 提升至 25%；在「𝜏²-Bench Telecom」測試中，分數由 37% 躍升至 85%。 記憶與分析：在 North 應用場景中，Agentic 問答準確度提升 20%，試算表分析品質提升 32%，且在跨對話與儲存資料的「記憶」表現上達到 54%（前代為 39%）。 多模態與多語言：支援 48 種語言，並在「MMMU Pro」與「MathVista」等基準測試中取得顯著進步；語言覆蓋範圍較前代擴增一倍以上。 硬體效率與量化技術 為了降低企業部署門檻，Cohere 針對硬體資源進行了極致優化，使其能在有限的基礎設施上運行： 硬體需求：透過 W4A4 量化技術，該模型僅需 1 張 NVIDIA B200 或 2 張 NVIDIA H100 即可運行，且品質損失極小。 量化策略：採用「量化感知蒸餾」（QAD）技術，僅對 MoE 專家層進行 4-bit 量化，保留注意力路徑（Attention path）與 KV 快取為全精度，以確保推理品質。 速度提升：相較於前代模型，輸出速度（TOPS）提升超過 63%，延遲降低 17%。此外，透過針對 MoE 架構優化的推測解碼（Speculative Decoding），推理速度額外提升 1.5 至 1.6 倍。 Tokenizer 優化：採用最新 Tokenizer，顯著提升壓縮率，特別是在阿拉伯語（+20%）、韓語（+16%）與日語（+18%）等非歐洲語言上，有效降低推理成本。 部署與使用指引 開發者可透過 Hugging Face 下載模型權重，或使用 Cohere 的 Model Vault 進行託管部署。針對 W4A4 量化版本，需特別注意環境配置： 確保使用 vLLM 版本 >=0.21.0。 必須安裝 Cohere 的 melody 函式庫以支援正確的響應解析。 若使用 transformers，請從包含該模型必要變更的原始程式庫進行安裝。 Agentic 互動與工具呼叫 Command A+ 具備原生工具呼叫能力，支援與 API、資料庫或搜尋引擎互動。開發者可透過 transformers 中的聊天模板（Chat Templates）進行整合，並建議使用 JSON Schema 定義工具描述。該模型設計旨在實現從實驗到生產環境的無縫銜接，為企業提供可控、可適應的 AI 解決方案。原文：https://easyvibecoding.app/curated/1485