SynapseWire

用 LM Studio Bionic 在本機跑真正會動手的 Agent

LM Studio Bionic 在舊版聊天窗上加了 MCP、專案檔案和本機/雲端模型切換。這篇教你依記憶體選模型,並把 repo 留在自己的磁碟上。

作者: SynapseWire 編輯部 發布於:
桌面應用程式顯示本機模型對話、專案檔側欄,以及已載入 12B 模型的狀態列

2026 年要把模型下載到自己電腦,已經不是技術門檻。真正麻煩的是:讓它改你的檔案,卻不必把整份專案寄去雲端 Agent。

How-To Geek 9 月 3 日這篇 把差異寫得很白。舊版 LM Studio 就是下載器加聊天框。Claude Cowork、ChatGPT Work 早就會寫檔、改文件、呼叫工具。Bionic 是 LM Studio 的回應:權重還是在本機,但多了專案檔面板、側邊瀏覽器、語音,以及一鍵 MCP。若你做過我們的 Ollama + Open WebUI 教學,那套 API 可以留著。需要模型在資料夾裡動手時,再加 Bionic。

這不是要把 Cursor 比下去。Hostinger 整理的 vibe coding 工具 裡,Cursor 月費 20 美元,大 repo 依然較順。Bionic 適合另一種約束:程式不能離機,或你不想再為 token 付租金。

開始前先對硬體說實話

  • 電腦是你能掌控的,不是共用的 CI。
  • 磁碟:一個 12B 模型加應用程式,20 GB 空位是下限。兩個模型再加。
  • 記憶體/VRAM 不要吹牛。Pasquale Pillitteri 對 2026 本機模型的分級 跟實際載入狀況接近。

粗分:

  • 8 GB 或純 CPU:Phi-4-mini 或 Gemma 3 4B。聊天、摘要可以。別指望它當程式 Agent。
  • Mac 16 GB 統一記憶體:先 Gemma 3,再 Qwen3 14B,走 MLX。
  • 獨立顯卡 16 GB:Qwen3 14B 當日常,Phi-4 14B 偏數學,Gemma 3 12B 需要看圖時再用。
  • 24 GB:Qwen3 30B、程式 Agent 用 Devstral 24B、長推理再上 DeepSeek。

How-To Geek 截圖走的是 Gemma 4 12B QAT,約 7.15 GB,標了 Vision、Tools、Reasoning。16 GB 級機器當 Bionic 的主模型很合理。會呼叫工具的 12B 量化,比每句都在硬碟裡換進換出的 70B 有用。

安裝 LM Studio,再進入 Bionic

從官方網站下載,不要用來路不明的「AI 工具箱」。當普通桌面軟體安裝。第一次啟動會要你從目錄抓模型,用 Explore。

  1. 在 Explore 抓一個標了 Tools 的模型。How-To Geek 用 Gemma 4 12B QAT。目錄改名的話,選 12B 級、有 Tools 的即可。純聊天權重會讓 Bionic 看起來壞掉,因為 Agent 迴圈根本無工具可叫。
  2. 打開 Bionic(文章把它當成新工作區,不是藏很深的外掛)。先建專案,檔案面板先指到一個用完可刪的目錄,不要先指到報稅資料。
  3. 一般設定裡,主模型設成剛剛下載的本機權重。需要看截圖或 PDF 時,視覺子代理可設同一個 Gemma 4 12B QAT,或專用視覺模型。How-To Geek 有打開 web search 和 exploration。只有在你接受對外查詢時才開。
  4. OpenAI 相容的本機 REST 先關掉。16 GB 機器用 just-in-time 載入:專案需要才把權重載上來。真的要開 REST,用途跟 Ollama 一樣,方便腳本、也方便你誤綁 0.0.0.0

語音模式會把說話轉進同一個聊天框。等於專案裡多了一支麥克風。不用就關。

MCP 一次只接一個

Bionic 比換皮聊天窗有價值的地方,是 MCP。

How-To Geek 的 Connected Apps 一鍵可接 GitHub、Linear、Notion、Sentry、Atlassian。重點是這張清單。本機模型過去當不成 Agent,是因為每個工具都要自己寫 Python 側車。MCP 是有名字的插座。

建議順序:

  1. 先接一個你每天在用的。公開 repo 或你願意把 token 留在筆電裡,GitHub 最容易驗證。第一天不要接五個服務。五個授權視窗排完,人就回去 ChatGPT 了。
  2. 清單沒有的,用自訂 MCP:本機命令或 URL。本機命令必須是這台機器用 pip/npm 裝過、你叫得出行程名稱的東西。URL 必須是你信任的伺服器。講不出會啟動什麼行程,就不要從留言貼命令。
  3. 打開 Skills。Bionic 能偵測既有的 Claude Code、Codex skill 目錄並沿用。已經養過那些資料夾,這是搬家路徑。沒用過 skill 的人,等專案真的重複同一套手續再設。

本機模型不會讓 GitHub PAT 變安全。Token 放系統鑰匙圈或權限 0600 的檔案,範圍窄到只夠開 pull request。

用假專案證明它真的會改檔

~/bionic-test/notes.md,三個標題,裡面故意寫錯一個日期。在 Bionic 請它列出檔案、引用那句錯的、再寫回修正版。盯專案檔面板。若只會聊天、檔案沒動,不是模型沒 Tools,就是檔案/MCP 權限沒開。

接著讓側邊瀏覽器只開一份你已經信任的文件頁,把一個版本號寫進 markdown。這能測 exploration,又不必把私人目錄送去搜尋框。

迴圈成功後,第二個專案再指到你敢 git checkout 還原的 repo。工作樹保持乾淨,git diff 就是稽核紀錄。本機 Agent 一樣會很有自信地改錯。差別是 diff 沒離開磁碟。

什麼時候該留在 Ollama 或 Cursor

當無頭 API,Ollama 加 Open WebUI 仍然比較適合。家裡伺服器要給家人用瀏覽器,別逼他們開 Bionic。Ollama 那篇 還適用。只有你想在 Ollama 已載入的權重上加這層 GUI 時,才把 Bionic 指到本機 OpenAI 相容端點。

Cursor、Windsurf,以及 Hostinger 列的那些雲端產生器,是另一極:它們假設程式可以在別人雲上待一會兒。開源權重對雲端 API 是成本問題。Bionic 是資料邊界問題。約束是「這份 repo 不能去 Anthropic」,Bionic 加 12B 或 30B 工具模型是目前的桌面答案。約束是「午飯前改完」,去付 Cursor,別假裝 CPU 上的 4B 做得到。

常見失敗

模型不會用工具。 你下載了純聊天 GGUF。換成 Tools 版。

一直 swap、風扇狂轉。 16 GB 硬跑 30B。降到 12B QAT。

MCP 顯示已連線,接著 401。 一鍵流程還是會存 token。重發。看系統時間,OAuth 很怕時鐘歪。

它「幫忙」改了你沒點名的設定檔。 把專案根目錄縮窄。不要把 Bionic 指到家目錄。

REST 綁到區網。 等於對外開了帶檔案的 API。只聽 127.0.0.1。

本機 Agent 不是道德升級,是位置升級。想要 MCP 和專案樹跟權重在同一台機器,Bionic 值得裝。不表示同一天就該刪掉雲端帳號。先跑假資料夾。檔案有改、git diff 讀得懂,教學就結束了,剩下的還是判斷力。

分享文章

留言評論

0 則評論

暫無評論,搶先發表你的看法吧!

相關文章