SynapseWire

Recursive 的 Flint 程式模型在 RTX Spark 上的速度:每秒 150 與 220 token 的差別

Flint 在 TechCrunch 的 Spark 上是 150。NVIDIA 的 64GB 超過 220。兩邊都寫 400 億、啟動 25 億。

發布於:
灰色桌上一台闔上的筆電和一座小主機,旁邊一張空白索引卡,沒有標誌,也沒有可讀的型號。
FIG. 01 // 灰色桌上一台闔上的筆電和一座小主機,旁邊一張空白索引卡,沒有標誌,也沒有可讀的型號。

重點先看: TechCrunch 報導 Flint 在 RTX Spark 上超過每秒 150 token,NVIDIA 則提到 64GB RTX Spark 配置可超過 220。兩個來源都指出模型總參數 400 億,每個 token 約啟動 25 億參數。

10 月 21 日兩個頁面都在寫 Flint,速度不是同一句。TechCrunch 說,在 Nvidia 的 RTX Spark 上,Flint 到每秒 150 個 token。NVIDIA 當天的博客 說,Recursive Flint 在 64GB 的 RTX Spark 上超過每秒 220 個 token。150 和 220。220 除以 150 是 1.47。這不是四捨五入。要嘛機器不同,要嘛測試不同,要嘛公司的數字和晶片廠的句子之間動過。頁面沒說是哪一種。

尺寸倒是對得上。TechCrunch 說它是混合專家,一次只用 400 億參數裡的 25 億。NVIDIA 說它是 400 億參數的混合專家,啟動 25 億。WIRED 同一天說 Flint 有 400 億參數,Will Knight 在 48GB 記憶體的 Mac 上跑過。一張卡如果只寫「400 億,所以要資料中心的 GPU」,就跳過了另外兩頁印出來的啟動數,也跳過了記者已經在 48GB Mac 上跑過這件事。

這個站拆過一個 5 倍,它其實是三句。Super VL 的 5 倍不是 Skydance 那句。也拆過參數和檔案大小。EmbeddingGemma 2 是 7.4 億,上下文是 8K。也寫過速度欄對不上另一欄。FLUX 3 Max 的 22 倍是 12.45 秒,不是 10.95。Flint 是筆電尺寸的同一種錯法。權重好抄。速率不好抄。

Flint 的 150 和 220 不是同一句

TechCrunch 的速度段是它轉述 Recursive 的測試。在蘋果 M4 Pro 的 MacBook Pro 上,Flint 大約每秒 131 個 token。同機上它稱為相近的模型,包括 Google 的 Gemma 4 和 Nvidia 的 Nemotron 3.5 Lightning,大約 58 到 69。TechCrunch 說 131 大概是那個區間的兩倍。58 的兩倍是 116。69 的兩倍是 138。131 落在中間。「大概兩倍」配那台 Mac 說得通。配 220 就說不通。

那篇裡 RTX Spark 只有一個子句:到每秒 150。沒寫 64GB。沒寫哪一款 Spark。也沒寫 topped 是峰值還是持續。NVIDIA 博客在搜尋記錄裡是 10 月 21 日 10:50 GMT,寫的是 64GB RTX Spark、超過 220。TechCrunch 是同一天 20:27 GMT,150 發得更晚,不是更早。晚出的文章數字更低,不自動等於更正。它可以是另一台機器。「RTX Spark」和「64GB RTX Spark」不會因為都有 Spark 就變成同一個名詞。

拿 WIRED 點名的 48GB Mac,去比 NVIDIA 點名的 64GB Spark,比的已經是兩種記憶體。TechCrunch 的 M4 Pro 是 131,第三台機器。三個速率,三台盒子,除非有一頁把它們放在同一台裝置上。

TechCrunch 放在 58 到 69 那一檔的 Nemotron 3.5 Lightning,不是這個站 10 月 19 日寫的 Super VL。Lightning 是比較句裡的名字。Super VL 是 1200 億參數的多模態代理模型,5 倍那句下一句就散了。儀表板如果把 Mac 上的結果標成「Nemotron 3.5」,再把 Super VL 的排名貼到 Flint 的 131 旁邊,就是把筆電速率和資料中心的行銷倍數焊在一起。58 到 69 是一台 Mac 上、TechCrunch 稱為相近模型的速率,裡面包括 Lightning。它不是 VL 的排行榜名次。

400 億是總量。25 億是這個 token 用的

TechCrunch:一次只用 400 億裡的 25 億個設定。NVIDIA:啟動 25 億。25 除以 400 是 6.25%。兩頁都沒印 6.25%。它們印的是兩個數。規格表如果只留 400 億,就會高估每個 token 真正跑的那一片,如果這兩頁是對的。規格表如果只留 25 億,就會低估你要下載的權重。WIRED 的測試是下載之後的實況。Knight 在 48GB 記憶體上跑,他說這容量健康,但只夠跑 Flint 這種中等尺寸。他拿來對照的是幾兆參數的最大模型,那些只能跑在工業伺服器機架上。48GB 不是兆級機架。它也不是保證每顆 400 億參數的模型都塞得進 48GB。TechCrunch 說它輕到一般筆電能跑,靠的是啟動數。WIRED 的 48GB 是一台筆電級機器,不是每一台筆電。

NVIDIA 同一篇還給了另一個模型另一個啟動數,兩句會被焊上。Liquid AI 的 LFM2.5-24B-A2B,每個 token 只啟動 240 億裡的 20 億。啟動 20 億不是啟動 25 億。總量 240 億不是 400 億。綜述如果寫「新的本地模型大約啟動 20 億參數」,就是把 Flint 的 25 億往下修,還擦掉了 LFM 的 240 億。

開發者可以在 Hugging Face 用 Apache 2.0 下載開放權重,跑在 RTX Spark、DGX Spark,以及 GeForce RTX 和 RTX PRO。TechCrunch 說 Flint 跑在使用者自己的電腦上,不是公司的雲,所以可以離線,程式碼留在本地。「可以」在做事。離線是本地跑法的性質,不是每個套著這些權重的外殼都會給你的性質。一個代管展示站,就算權重是 Apache,也不是離線。這個站寫過本地旗標不是離線產品。

SWE-Bench Verified 不是 SWE-Bench Pro v2

基準的名字裂開了,兩頁都沒印分數。

TechCrunch 說,在 SWE-Bench Verified 上,Flint 勝過其他 500 億參數以下的模型。沒印 Flint 的百分比。沒印它贏過誰。「500 億以下」是一道尺寸柵欄。Flint 總量 400 億在柵欄裡。270 億的模型也在柵欄裡。勝過,但沒有表,這個排名你無法從句子裡重做。

下一句是另一個測試。TechCrunch 說,在 Recursive 自己六個測試的平均上,只有一個模型比 Flint 高:阿里的 Qwen3.8 27B。六個測試,一個平均,前面有一個。這不是「SWE-Bench Verified 第一」。一個 270 億模型在公司自己的平均上贏過 Flint,並不推翻「在某一個有名字的基準上勝過其他 500 億以下模型」。它推翻的是「Flint 領先每一個開放程式模型」這種標題。TechCrunch 沒寫那個標題。它寫的是:一個基準上贏過一組沒點名的 500 億以下模型,以及在公司自己的六測試平均上排第二,後面是 Qwen3.8 27B。

NVIDIA 博客說,在 SWE-Bench Pro v2、Terminal-Bench 2.1、SWE-bench verified 這類代理程式基準上是同級最好。三個名字。沒有分數。「這類」是舉例,不是表。SWE-Bench Pro v2 不是那個基準。Terminal-Bench 2.1 也不是。同級最好,沒有數字、沒有對手,形狀和那個沒寫出次名的 5 倍一樣。

WIRED 說 Recursive 分享了基準分數,暗示 Flint 在相近尺寸、相近架構的程式任務上更好。「相近尺寸和架構」是 Knight 轉述 Socher 的比較,不是 TechCrunch 的 500 億柵欄,也不是 NVIDIA 的三個基準名。不是這三頁的排行榜截圖,就是第四份文件。

TechCrunch 還說,公司承認 Flint 比大型付費程式助手更需要指引,建議把大任務拆小。這句是所有「同級最好」的對重。Knight 經 TechCrunch 轉述,在那台 48GB Mac 上用 Flint 做了待辦清單,還做了一個上網找資料的工具,這些要求它都做完了;更小的程式模型常常出錯,或是比 Claude、Codex 慢。待辦清單不是 SWE-Bench Pro v2。兩件都可以是真的。一件是記者的一個下午。另一件是沒有分數的基準名字。

Eureka Machine 是做法,不是第二個模型

WIRED 稱 Richard Socher 是 Recursive 的執行長和共同創辦人。他跟 Knight 說,整條模型管線幾乎每個環節都是 AI 做的、也是 AI 改的。「幾乎」在引文裡。標題如果拿掉幾乎,就是把有保留的說法升級了。他告訴 WIRED,這套叫 Eureka Machine 的系統想出了新的訓練方式、新架構,以及針對特定晶片的程式。那句是 WIRED 的訪談。

更長的目標,Socher 告訴 WIRED,是完整的遞迴自我改進,人看著,出事可以停。那是目標。Flint 是已經放出的程式模型。目標和發布不是同一個時態。TechCrunch 說,每一個新模型應該讓 Eureka Machine 變成更好的研究者,幫它更快做出下一個。「應該」是 TechCrunch 轉述公司的說法。

NVIDIA 博客上的名字是 Recursive Superintelligence。TechCrunch 和 WIRED 寫 Recursive。

1TB 是 TechCrunch 拿來比的 Muse,不是 Flint 的需求

TechCrunch 用 Meta 的 Muse Spark Open 當尺寸對照。它說 Muse Spark Open 上週發布,8160 億參數,至少要 1TB 記憶體。Flint 的 400 億、啟動 25 億,是 TechCrunch 說小很多的那個。8160 億和 1TB 是 TechCrunch 對另一個模型的句子。不是 Flint 的規格。

同一篇 NVIDIA 文還有其他第零天模型,如果綜述寫成「這週 Spark 上跑了什麼」,它們會被拖進 Flint 的段落。Black Forest Labs 的 FLUX 3 Image Klein 是 56 億參數的開放權重影像模型。博客說,NVIDIA 優化過的版本在少到 8GB VRAM 的 GeForce RTX 上能跑,RTX 5090 上大約 4 秒出一張 1 百萬像素的圖。Klein 的 4 秒不是這個站記下的 FLUX 3 Max 那 12.45 秒。Klein 是 56 億參數的影像模型。Max 是另一句產品。同一篇裡的 MiniMax M3.1 Flash,被寫成給 DGX Station 和 DGX Spark 的新開放模型。

總量 400 億。啟動 25 億。如果你在讀 NVIDIA,授權是 Apache 2.0。如果你在讀 TechCrunch,M4 Pro 的 MacBook Pro 大約每秒 131。如果你在讀 NVIDIA,64GB RTX Spark 超過 220。如果你在讀 TechCrunch,「RTX Spark」上到 150。WIRED 的 48GB 測試沒有選邊,因為它沒印速率。

對讀者的意義

比較本機程式模型時,請留意每個速度數字背後的硬體配置。如果你打算在本機執行 Flint,吞吐量會受記憶體容量與設定影響,正式採用前先在自己的機器上實測。

標籤 // #Flint #Recursive #RTX Spark #open models #local inference
分享文章 //
READER LETTERS

讀者回應与討論

[ 0 則評論 ]

暫無讀者回應,歡迎發表你的見解。

FURTHER READING

相關文章