SynapseWire

NVIDIA Nemotron 3.5 Super VL:「快 5 倍」到底指什麼

NVIDIA 10 月 15 日說 Super VL 比次名快 5 倍。Skydance 的 5 倍是延遲。單卡吞吐又是另一句。

發布於:
灰色桌上一枚啞光金屬塊和一張空白索引卡,卡片上只有一條鉛筆線,沒有標誌,也沒有可讀的型號。
FIG. 01 // 灰色桌上一枚啞光金屬塊和一張空白索引卡,卡片上只有一條鉛筆線,沒有標誌,也沒有可讀的型號。

重點先看: NVIDIA 在 2026 年 10 月 15 日的部落格表示,Nemotron 3.5 Super VL 比同級次佳模型快 5 倍。另一個 Skydance 的案例也提到 5 倍,但那是特定部署中的延遲數字,兩者不應混為一談。

10 月 15 日同一天,三個頁面都對 Nemotron 3.5 Super VL 用了 5 倍。不是同一個 5 倍。NVIDIA 的產品博客說它是同級最快的開放代理模型,比次名快 5 倍。Unite.AI轉述技術博客,說 Skydance 那套供應商信用工作負載的推理成本會降 40 倍,延遲降 5 倍。SQ Magazine寫,單卡上,代理任務的吞吐最高可比同級其他開放模型高 5 倍,出處仍是 NVIDIA。同級排名、一家客戶的延遲、單卡吞吐。三個比較。收成「快 5 倍」就少了名詞。

這個站 3 月寫過另一個 1200 億、啟動 120 億的開放模型。那篇是 Nemotron 3 Super,不是這次的 VL。也寫過標題參數和記憶體不是同一個量。EmbeddingGemma 2 的 7.4 億和 191MB 就是這樣拆的。也寫過標價要看你讀到哪一句。Haiku 5.5 短提示 0.10 美元,帳單是另一套算法。Super VL 是速度版的同一種錯法。權重當天就公開了,數字仍得按句子拆。

博客那句 5 倍沒有寫出次名是誰

次名沒有名字。快的單位也沒寫。是每秒 token、跑完一套代理腳本的時間,還是第一個 token 的時間,句子裡都沒有。沒有對手、沒有時鐘的 5 倍,是行銷比較。NVIDIA 畫的圖上它可以成立。只靠這一句,你重現不了。

同一篇還說,多模態代理任務的準確度,大致相當於 NVIDIA 最大推理模型,參數大約五分之一。「大約五分之一」是他們的比值。後面 Unite 印了 Ultra 的分數,那是分數表,不是 5 倍那句的對手名單。

SQ 的 5 倍窄一點,出處還是 NVIDIA。Barry Elad 的稿,時間戳是 10 月 15 日下午 1:45,美東。他寫:單卡上,代理任務吞吐最高可比同級其他開放模型高 5 倍。最高,是天花板。同級,SQ 那句沒定義。單卡吞吐的天花板,不是博客「比次名快 5 倍」。就算兩個數字同一天從同一個實驗室出來,一個可以是排名,一個是硬體形狀的吞吐。寫成「單卡比次名快 5 倍」就是把兩句焊上了。

Skydance 的 5 倍是工作負載,SQ 那段沒印延遲

Unite 說 Scale AI 用 Super VL 為 Skydance 的供應商信用代理、以及 EY 的併購盡職調查代理做了後訓練。技術博客,按 Unite 的引法,寫這套 Skydance 工作負載的推理成本會降 40 倍,延遲降 5 倍。「會降」是預測,綁在一套後訓練過的工作負載上,不是公開榜上對基礎檢查點的測量。這裡的 5 倍是延遲。40 倍是成本。成對出現。只留 5 倍或只留 40 倍,都是在改 Unite 的句子。

SQ 也寫了 Skydance。那段沒有延遲 5 倍。SQ 文末說,篇裡的速度和準確度數字都來自 NVIDIA。兩家都印的 40 倍,是他們共享的數字。延遲 5 倍只出現在 Unite 對技術博客的引述裡,不能記到 SQ 頭上。只讀 SQ,Skydance 是成本倍數。讀 Unite,是成本和延遲。兩家指向的技術博客是這篇開發者文章。出處停在 Unite 的引述。

Hebbia 是 AfterQuery 的客製,同樣沒有倍數。Alice 有百分比:SQ 說 AI21 為 Alice 的威脅分析做了後訓練,準確度提高 40%。40% 的準確度和 40 倍的成本都長得像 40。單位不同。一個是相對準確度,一個是成本倍數,還有一個延遲倍數。

1200 億,3 月那個模型也是這對數

Super VL 是 1200 億參數的混合專家,每個 token 啟動 120 億。Unite 印了這對。SQ 印了這對。

這對數字故意眼熟,也正好是陷阱。3 月的 Nemotron 3 Super,標題算術同樣是總量 1200 億、啟動 120 億。名字不同。那時是 3 Super。現在是 3.5 Super VL。3 月那篇寫的是舊檢查點。這篇寫的是 10 月 15 日發布、帶視覺說法的代理模型。儀表板如果還標著 Nemotron 3 Super,卻接到 Super VL 的價格,120 和 12 這兩個數抓不到。名字抓得到。VL 這個後綴才是「這次被說成能看圖、看文件、看影片」的部分。SQ 寫,NVIDIA 的說法是團隊不必再另外部署一個視覺語言模型。那是這次發布的說法,不是 3 月那個檢查點長了眼睛。

Unite 說 Super VL 從 Nemotron 3 Ultra 蒸餾而來,技術博客把編碼能力的提升歸到 Ultra 和 SkewReverse 損失。從 Ultra 蒸餾,不是「它就是 Ultra」。產品博客「大約五分之一參數」可以跟蒸餾故事並排放,不必合成一句。Ultra 可以是老師。Super VL 可以是較小的學生。5 倍的同級對手仍可能不是 Ultra。沒有句子寫出對手的名字。對手欄空著。

分數表是 NVIDIA 的,旁邊的時鐘不是 5 倍

Unite 印了 NVIDIA 報的分數。Hermes Bench,Super VL 63.44%,Nemotron 3 Ultra 56.33%。LangChain 行為評估,87.05% 對 84.3%。CharXiv 圖表推理,Super VL 80.8%,對照是 Nemotron 3 Nano Omni 的 63%;用 Python 解釋圖表時升到 84%。SQ 印了同一組 Hermes、LangChain、CharXiv,文末又說速度和準確度來自 NVIDIA。兩篇報導,一家實驗室的表。這裡一致,不是獨立複測。SQ 還說,技術博客引用了 EXO Labs 的獨立評估,把模型放在準確度與任務完成時間的帕累托前緣上。

CharXiv 的 80.8 和 84 是一對,像 Skydance 的 40 倍和 5 倍是一對。80.8 是沒有 Python 那句的分數。84 是 Unite 寫的、用程式解釋時的分數。圖上只印 84%、拿掉「使用 Python」就是選了輔助後的數字。CharXiv 的對照,兩家都寫 Nano Omni,不是 Ultra。Hermes 和 LangChain 的對照才是 Ultra。基準不同,對手不同。一句「贏過 Ultra」蓋不住 CharXiv。

其他速度數字不要丟進 5 倍那一堆。

LiLiCorr 是開放的推測解碼。Unite 說,它比不開推測解碼的生成快最多 2.3 倍。這 2.3 倍比的是同一個模型開不開這招,不是比「次名」開放模型。推測解碼是服務技術。不是同級排名。

SQ 說,在 Baseten 端點上,Artificial Analysis Intelligence Index 的代理任務,Super VL 超過每秒 600 token,而且那是 NVIDIA 的圖。600 是一個端點上的速率,不是倍數。沒有人在這三頁裡把另一個速率印在 600 旁邊。除不回去。

Unite 的 Dynamo 是一套服務配置:16 張 B200,每位使用者每秒 50 token,加上 KV cache 感知路由,最多可服務 8 倍使用者,首 token 延遲降 85%。8 倍是固定每人速率下的使用者數,而且是這 16 張卡。85% 是這套配置的首 token 延遲。都不是博客的 5 倍,也不是 Skydance 的延遲 5 倍。容量表若寫成「快 5 到 8 倍,延遲降 85%」,那個區間來源裡沒有。

Unite 說配方在 Blackwell 上用 4 位元權重和啟動值,再用量化感知蒸餾去補量化掉的準確度。差距沒有百分比。

4GB 的 Bolt 日期是 10 月 23 日

24GB 的 Bolt,Unite 和 SQ 都說現在就能下。Unite 的全名是 Nemotron 3.5 Bolt 74B-A9B 24GB。原生 2 位元量化,塞進 24GB,在 RTX 和 DGX Spark 上跟其他程式一起跑。支援名單兩家都寫了 llama.cpp、Ollama、LM Studio、Unsloth、vLLM。PinchBench 同級第一、BrowseComp 開放模型第二,兩家都說是 NVIDIA 的說法。「同級」和 Super VL 那個 5 倍有同一個洞:同級沒有被定義。

4GB 不在「現在就能下」那句裡。Unite 把 Nemotron 3.5 Bolt E4B 4GB 排在 2026 年 10 月 23 日。SQ 說 4GB 的 Bolt 10 月 23 日來。日期一致。機器也一致:GeForce RTX、Jetson、RTX 或 DGX Spark。10 月 19 日就叫人去拉 4GB 檢查點,早了。這兩頁說已經公開的,是 24GB。

訓練規模在 Unite,而且容易跟 2.8 兆的資料集搞混。Unite 說 Super VL 在預訓練和持續預訓練裡大約用了 26 兆 token,後訓練大約 380 萬筆樣本。持續預訓練另加 100 億 Indic token。另外,NVIDIA 要發布一份大約 2.8 兆 token、22 種印度語言的資料集,和 IIT Madras、AI4Bharat 一起做的。26 兆是訓練 token 的說法。2.8 兆是要放出的資料集。100 億是持續預訓練裡點名的一片。沒有句子叫你把它們加在一起。模型卡截圖如果只出現其中一個,就不是另外兩個的截圖。

要轉述這次發布,句子可以很短。博客的 5 倍是同級排名,次名沒有寫出來。SQ 的 5 倍是單卡吞吐,有「最高」,對手是沒有定義的同級開放模型。Skydance 的 5 倍,在 Unite 對技術博客的引述裡,是一套後訓練工作負載的延遲,旁邊有 40 倍成本;SQ 印了成本,那段沒印延遲。3 月那個 1200 億、啟動 120 億的模型不是這個檢查點。4GB 的 Bolt 檔案日期是 10 月 23 日。這些句子不必互相打臉。它們要的是名詞還在。

對讀者的意義

看到發布文章裡的速度倍數時,請先確認它比較的對象是什麼、在哪種硬體上測的。自己評估時,請在實際要部署的 GPU 上,分別量測吞吐量與延遲。

分享文章 //
READER LETTERS

讀者回應与討論

[ 0 則評論 ]

暫無讀者回應,歡迎發表你的見解。

FURTHER READING

相關文章