跳至主要內容
YIP NEWS
YIP NEWS

10月1日

爐子有四五口,瓦斯管只要一條:一個把所有 AI 接起來管的網關,像極了廚房裡那座備菜檯

生活爐 美食生活

V2EX 網友分享開源本機 AI 網關 ThinkWatch Lite,我們把「所有爐子接一條瓦斯管、每一筆帳都看得到」翻譯成廚房裡的備菜檯故事。

刊出 (台北時間) 閱讀約 3 分鐘

你家用過那種延長線嗎?插滿了電鍋、氣炸鍋、電熱水壺,每到喫火鍋的晚上就要考慮先拔誰。9 月 29 日,V2EX 上有位開發者分享了一個開源的本機 AI 網關 ThinkWatch Lite,解決的正是同一種煩惱:手上同時跑著 Claude Code、Codex,還握著好幾家中轉與國產模型的 key,切來切去,像在換插座。

他原本用的工具叫 CC Switch,照帖文裡的說法,痛處不少。切換上遊要重啟客戶端;Codex 換了供應商,舊會話就接不上,相關的 issue 開了四十多樓還沒關;想按模型把任務分給不同廠商,需求掛了快四個月沒人理。這就像你家廚房有四口爐,但每次想從炒鍋換到湯鍋,都得先把整個瓦斯關掉重開。

這位開發者的思路換了個方向:客戶端只接一次,指向本機的網關,剩下的事都在網關裡處理。換上遊不用重啟,路由規則照模型、token 數、有沒有圖片來分,故障轉移、輪詢、挑延遲最低或費用最低的都有。Anthropic、OpenAI、Gemini 幾種格式還能互相轉換。

這在廚房裡是老道理了。外婆家那種老廚房,爐子上永遠坐著一鍋熱水,旁邊大小兩口鍋各司其職,蒸魚的蒸魚、燙青菜的燙青菜。厲害的家廚不會一次只開一個爐,她心裡有一張排程表:哪鍋先滾、哪鍋轉小火、哪鍋可以離火燜著。網關做的,就是把這張排程表從腦子裡搬出來,寫成規則。

最讓人有感的是「帳看得到」。帖文裡寫,每個請求的費用、token、快取命中、生成速度、走了哪條規則、依序試過哪幾個上遊,全都攤開來;選單列還直接顯示今天花了多少錢。這一點我們特別懂。家裡誰掌廚,誰就知道一桌菜的帳不是月底才結的,是每天買菜時一斤一把算出來的。先前寫過那篇湯鍋能裝下一整個市場的料,但你家瓦斯表也在轉,聊的就是這種「邊煮邊看錶」的精算感,如今連 AI 的鍋也有了自己的帳本。

安全那一面也講得具體。發給中轉的內容,會先把 API key、token、私鑰換成佔位符,回應時再換回來;模型若要求客戶端「下載後執行」或外發環境變數,能在串流輸出中途切斷,預設只記錄不攔截,看過日誌確認沒誤報再打開。這像市場裡把現金換成代幣再去採買的作法,攤商碰不到你皮夾裡的鈔票。

安裝也齊:macOS 用 Homebrew,Linux 一行 curl,Windows 有安裝包,還能裝在 Linux 伺服器上遠端管理。一鍵接管的客戶端列了一串,從 Claude Code 到 Zed、Aider 都在內。

說到底,這類工具解決的是同一件家常事:東西多了之後,秩序不該靠記性硬撐。就像廚房抽屜裡那本手寫食譜筆記本,爐火再雜,配方寫下來,誰掌勺都接得上。今晚開飯前,不妨看一眼自家流理臺,那些分裝好的蔥薑蒜、貼了標籤的冷凍袋,其實就是你家的路由規則。

TAGS 補充說明:文末標籤已列於上方。