跳至主要內容
YIP NEWS
YIP NEWS
生活 美食生活

10月29日 刊出

一間廚房多了兩口新爐,一口用來炒菜,一口用來試湯

Ollama 0.40.12 為 MLX runner 加入 LFM3 與 d1 支援,我們把文字生成與決策判斷兩種模型,翻譯成廚房裡兩口不同用途的爐。

刊出 (台北時間) 閱讀約 4 分鐘

2026 年 10 月 27 日,一篇整理 Ollama 0.40.12 更新的文章被寫了下來。這次版本變更,是在 Apple 晶片上的 MLX runner 多支援了兩個模型:LFM3 與 d1。聽起來像設備規格,但放到廚房裡想,其實很像你家爐檯上多了兩口新爐,一口負責把菜炒出來,一口負責幫你判斷今天這鍋湯該不該起鍋。

先說這兩口爐的脾氣不一樣。

LFM3 是文字模型,Ollama 模型頁把它定位在本機代理與專門應用,能對話、能呼叫工具、能把一段亂七八糟的輸入整理成結構化的欄位。這像廚房裡那個負責出菜的位置:你把食材丟給他,他端回來的是一道完成的菜,一句寫好的回覆、一份填好的表格。

d1 則是決策模型。你給它輸入狀態和一個明確的問題,它回傳的是各個選項的機率。它不炒菜,它試味道。你問它「這鍋先起還是再燜」,它告訴你兩邊的把握各有多少。這與我們先前聊過的菜單上挑一道跟請廚師自由發揮是兩回事有點像:點菜和讓師傅自由發揮,本來就是兩種不同的事。

所以選型之前,先問自己:這項工作需要的是「生成一段文字」,還是「在幾個選項之間做判斷」?把試湯的湯匙拿去炒菜,或拿鍋鏟去嚐鹹淡,都會手忙腳亂。

版本紀錄只告訴你爐子支援什麼,不保證菜好喫

這裡有個容易被忽略的分別。Ollama 的版本紀錄列的是「runner 支援哪些模型」,像爐具型錄寫「本爐相容某某鍋」。但一口爐相容你的鍋,不代表你今晚那道菜一定成功。模型頁說的是模型做什麼,實際表現還得看量化方式、記憶體、你的裝置。

來源裡有幾組測試可以當參考座標,但要小心別張冠李戴。開發者 Zach Rattner 在 M1 Ultra 上比較 Qwen3.8-27B,4-bit 時 MLX 的生成速度比 Ollama 高約 41%,換成 8-bit 後這個優勢就消失了。注意,這測的是 Qwen,不是 LFM3 或 d1。另外,獨立開發者 Alex Hiesch 在 M3 Max、64 GB 記憶體的 Mac 上,用 7 種模型、8 種後端跑了 791 組測量,記錄首 token 延遲、生成速度與記憶體,但同樣沒有涵蓋這兩個新模型。Ollama 團隊自己也公布過以 Gemma 4 12B 做的 Apple silicon MLX 測試,那是供應方對特定設定的數據。

這些數字像別人家的食譜筆記。能參考火候的概念,但你家的爐、你鍋裡的料,還是得自己開火試。

六個驗收環節,像端上桌前的最後檢查

文章整理了升級後的驗收方法,分兩條線看。

LFM3 這條線,檢查的是回覆品質、工具呼叫的格式、欄位完整性,還有拒答的處理。就像驗收一道炒菜:嚐味道,看擺盤,確認該有的配料都在,也確認廚師遇到不會做的菜時,有老實說不會,而不是硬端一盤奇怪的東西上桌。

d1 這條線,檢查的是分類結果、機率校準、低信心的案例,以及錯誤的代價。這是試湯的邏輯:同一鍋湯試三次,答案要一致;拿不準的時候要說拿不準;而「太鹹端上桌」和「太淡端上桌」的代價不一樣,覆核的力道也該不同。

兩邊還有各自的限制要先記住。LFM3 是 1.7B 的小模型,官方描述就不適合直接承擔複雜多步推理,知識密集的任務宜搭配檢索,像小廚房裡的快手學徒,切蔥炒飯利落,辦桌大菜還是要食譜在手。d1 則需要你先把問題和候選選項定義清楚,而且機率不等於準確率,人工覆核的位子要一直留著。

收在餐桌前

機器的更新日新月異,但驗收的邏輯其實很老派:先分清這口爐是做什麼的,再用自己的鍋、自己的料開火試,最後照著清單一項項檢查。下次你家廚房多了一項新設備,不管是不是會講話的那種,這套順序都派得上用場。