@xenovacom：PrismML 發布了 Binary 與 Ternary Bonsai Image 4B 模型，正式將 1-bit 擴散模型帶入瀏覽器運作。 技術突破 Pris…

PrismML 發布了 Binary 與 Ternary Bonsai Image 4B 模型，正式將 1-bit 擴散模型帶入瀏覽器運作。 技術突破 PrismML 推出的 Bonsai 系列模型實現了 1-bit 量化技術，大幅降低了硬體需求。相較於傳統模型，Bonsai Image 4B 僅需約 3GB 的記憶體空間，遠低於 FLUX.2 Klein 4B 的 16GB。根據官方數據，該技術具備以下優勢： 記憶體佔用減少 14 倍。 推論速度提升 8 倍。 能源消耗降低 5 倍。 運作機制 此系列模型（包含 1.7B、4B 及 8B 版本）完全在瀏覽器中透過 WebGPU 執行，無需將任何資料傳輸至遠端伺服器。技術實現細節如下： 採用 MLX 權重進行載入。 使用自訂的 WebGPU kernel 進行推論。 透過 Transformers.js 驅動，確保模型能在瀏覽器環境下高效運行。 應用場景 Bonsai 模型針對不同裝置需求進行了分級設計，讓開發者能根據效能與精確度進行選擇： 1.7B（290 MB）：定位為「口袋級」模型，專為穿戴式裝置與常駐型 Agent 設計。 4B（584 MB）：平衡了推理能力與裝置端延遲，被視為效能與體積的最佳甜蜜點。 8B（1.2 GB）：提供資料中心等級的推理能力，直接在瀏覽器分頁中運行。 使用者可透過 Bonsai WebGPU 示範頁面 體驗這項技術，該頁面的動畫效果由 omma_ai 協助原型設計。 原文：https://easyvibecoding.app/curated/1581