EPISODE · Sep 5, 2026 · 3 MIN
AA 評測改版,Astra 從與 Sol 同分變成領先 4 分
from EasyVibeCoding Podcast · host Artificial Analysis
AA 評測改版,Astra 從與 Sol 同分變成領先 4 分。GPT-6 Astra 在 Artificial Analysis(AA)剛發布的分析中,綜合評測分數與 GPT-5.6 Sol 同為 61 分,還落後 Muse Spark 1.3;隔天 AA 更新評測方法後,Astra 卻成為第二名,領先 Sol 4 分。理解這個變化,得先分清楚 Intelligence Index 的版本。兩次結果,用的評測版本不同AA 在 2026 年 9 月 3 日發布的 Astra 分析使用 Intelligence Index v4.1.1;9 月 4 日則推出 v4.2。官方公布的結果如下,表中比較兩個模型的 max 推理設定:| 評測版本 | GPT-6 Astra | GPT-5.6 Sol | 同版比較 | | --- | --- | --- | --- | | v4.1.1 | 61 | 61 | 公告以整數列為同分 | | v4.2 | 55 | 51 | Astra 領先 4 分 |新版圖表中,Claude Fable 5.1(max,含備援機制)以 57 分領先,Astra max 為 55 分,Muse Spark 1.3 max 為 53 分。Astra 的數字從 61 變成 55,不能當成模型能力下降:評測項目、權重與部分評分方法都已改變,跨版本的總分不能直接相減。Artificial Analysis Intelligence Index v4.2:Claude Fable 5.1(max,含備援機制)57 分、GPT-6 Astra max 55 分、GPT-5.6 Sol max 51 分;Astra 在新版中領先 Sol 4 分。v4.2 加入了 Astra 表現較強的項目這次改版新增兩項評測:AA-Briefcase,占 15%:測試 AI 代理處理由產業專家設計的多週知識工作專案,涉及相互連結的任務與大量來源檔案。評分涵蓋任務完成度、分析品質與呈現品質。新版公告中,Astra 比 Sol 高約 85 Elo;這是成對比較得出的相對評分。 GDP.pdf,占 10%:測試跨長篇專業文件的推理能力。資料涵蓋 100 份 PDF、共 4,592 頁;每個任務必須滿足全部評分條件才算通過。Astra 的全條件通過率為 33.2%,Sol 為 28.2%,Astra 在這項評測領先。AA 同時移除已接近飽和的 GPQA Diamond,並把私有、保留測試集在指數中的權重提高到 40%。四大類別的權重為代理任務 30%、程式開發 20%、科學推理 20%、一般能力 30%。但排名變化不能全歸因於新增的兩項測試。AA 還修改了 AA-LCR 的評分提示與答案、GDPval-AA 和 AA-Briefcase 的抽樣及 Elo 定錨方式,以及 SciCode 執行環境的判分。多項設定同時改變,官方沒有提供能逐一拆出各項改動影響的對照實驗。Astra 的進步也沒有平均分布在每一項能力上改版前的官方分析已呈現這種差異:Astra 在 AA-Briefcase 有進步,但 GDPval-AA v2 約下降 80 Elo;τ³-Banking、SciCode 與 AA-LCR 也各有約 2 至 3 點退步。綜合分數把這些不同方向的結果加權在一起,因此納入哪些任務、各占多少,會影響最後排名。這也解釋了為什麼「寫程式明顯更好用」不一定等於同一張綜合榜上大幅領先。AA 的 Coding Agent Index 是另一套指標,與這裡的 Intelligence Index 要分開看。從排名變化,能判斷到哪裡?官方資料能確認評測改版、分數變化與各單項表現;光憑這些結果,無法認定 AA 刻意壓低 Astra,也無法證明改版是為了替某個模型加分。要用這份榜單選模型,先確認評測版本與推理設定,再看接近自己工作的單項測試。綜合排名可以作為起點,但長文件、代理任務與程式開發的表現差異,往往比總分更能回答模型是否適合自己的用途。原文:https://easyvibecoding.app/curated/3270-artificial-analysis-releases-intelligence-index-v4-2
Embed this episode
Ready to play
AA 評測改版,Astra 從與 Sol 同分變成領先 4 分
No transcript for this episode yet
Similar Episodes
No similar episodes found.
Similar Podcasts
No similar podcasts found.