Claude Code 是我最喜歡的 AI 程式編寫代理之一。
它可以檢查你的程式碼庫、編輯檔案、執行終端機指令、使用工具,並直接從終端機完成多步驟的程式開發任務。
但通常支撐這個體驗的智慧,來自 Anthropic 的 Claude 模型。
如果我們保留 Claude Code 作為程式編寫代理的框架,但把底層模型換掉呢?
這正是我想測試的。
結果大概是這樣:
Claude Code
↓
OmniRoute
↓
免費 AI 模型
↓
OpenRouter / NVIDIA / 其他供應商
Claude Code 不再直接把模型請求送到 Anthropic,而是先送到 OmniRoute;OmniRoute 充當 AI 閘道,並將請求路由到你所設定的模型與供應商。
沒錯——這表示你可以用免費 AI 模型來執行 Claude Code。🆓
但這裡有一個很重要的區別。
我們並不是免費取得 Claude Sonnet 或 Claude Opus。
我們是把 Claude Code 當作代理框架使用,同時用其他供應商提供的免費模型取代底層模型。
讓我們開始設定。
我錄製了整個逐步流程,包括:
✅ 在本機安裝 OmniRoute
✅ 連接 OpenRouter
✅ 連接 NVIDIA
✅ 匯入免費 AI 模型
✅ 設定 Claude Code
✅ 修正我遇到的驗證問題
✅ 透過 OmniRoute 啟動 Claude Code
✅ 使用免費模型執行 Claude Code
這個實驗背後的一個重要概念,是把代理框架與驅動它的 LLM 分開。
Claude Code 提供的是圍繞模型的代理體驗。
它可以:
通常,Claude Code 會和 Anthropic 的模型溝通。
但如果我們在 Claude Code 與模型之間放入一個 AI 閘道,架構就會靈活許多。
┌─────────────────┐
│ Claude Code │
│ 程式編寫代理 │
└────────┬────────┘
│
▼
┌─────────────────┐
│ OmniRoute │
│ AI 閘道 │
└────────┬────────┘
│
▼
┌─────────────────────────┐
│ OpenRouter │ NVIDIA │ … │
└─────────────────────────┘
│
▼
┌─────────────────┐
│ 免費 AI 模型 │
└─────────────────┘
Claude Code 仍然是介面與程式編寫代理。
OmniRoute 則負責控制模型請求要送往哪裡。
🔀 正是這種分離,讓這個實驗變得有趣。
我們首先需要 OmniRoute。
OmniRoute 是一個開源的 AI 閘道,可以位於像 Claude Code 這類應用程式與不同 AI 模型供應商之間。
請依照你的作業系統的安裝說明安裝 OmniRoute。
安裝完成後,啟動它:
omniroute
幾秒鐘後,OmniRoute 伺服器應該就會啟動。
打開終端機中顯示的儀表板網址。
現在你的機器上已經在執行本機 AI 閘道了。
接下來,我們需要模型。
在我的設定中,我連接了兩個供應商:
先從 OpenRouter 開始。
在 OmniRoute 儀表板中,前往:
Providers → OpenRouter → Add Connection
從你的 OpenRouter 帳號產生 API 金鑰,並把它加入這個連線。
如果你只想要免費模型,請啟用以下選項:
Only import free models
儲存連線。
OmniRoute 會匯入該供應商可用的免費模型。
你也可以從儀表板執行健康檢查,查看目前哪些模型可用。🩺
我也連接了 NVIDIA,讓 OmniRoute 有另一個模型來源。
流程類似。
前往:
Providers → NVIDIA → Add Connection
產生 NVIDIA API 金鑰,貼到 OmniRoute 中,驗證後儲存連線。
同樣地,我也將這個連線設定為匯入該供應商提供的免費模型。
現在架構開始變得更有趣了:
┌──→ OpenRouter → 免費模型
Claude Code → OmniRoute
└──→ NVIDIA ───→ 免費模型
Claude Code 不再直接綁定單一模型供應商,而是可以透過閘道使用多個供應商的模型。
現在來到最重要的部分。
如果你還沒安裝 Claude Code,請先依照 Anthropic 的官方安裝說明安裝。
安裝完成後,OmniRoute 可以自動幫你設定。
執行:
omniroute setup-claude
OmniRoute 會建立設定檔,讓 Claude Code 能透過閘道通訊。
不過,我在這裡遇到了一個問題。
我的 OmniRoute API 有啟用驗證保護。
正常來說,你應該可以建立存取權杖,並在設定 Claude Code 時傳入。
但在我的測試中,API 金鑰參數沒有被正確套用,Claude Code 持續回傳驗證錯誤。
所以我用了暫時性的解法。
我關閉了 OmniRoute 的 API 驗證。
我只會在以下情況考慮這麼做:
不要把未驗證的 AI 閘道暴露到網際網路上。
在本機關閉驗證之後,我再次執行 Claude 設定,連線就成功了。
現在我們真的可以透過 OmniRoute 啟動 Claude Code 了。
我使用了 OmniRoute 的程式編寫設定檔:
omniroute launch --profile auto-coding
auto-coding 設定檔會讓 OmniRoute 在已設定的模型中,自動選擇適合程式編寫的模型。
就這樣。
Claude Code 會正常啟動。
只是現在架構變成:
Claude Code
↓
OmniRoute
↓
替代 AI 模型
而不是:
Claude Code
↓
Anthropic 模型
🎉 Claude Code 現在已經使用透過 OmniRoute 路由的模型在運作。
某種程度上算是。
而且這個區別很重要。
你不是免費取得 Anthropic 的 Claude Sonnet 或 Opus 模型。
你是在使用 Claude Code 的代理體驗,搭配那些可能提供免費方案或免費路由的替代模型。
你可以把它想成把兩個部分拆開:
Claude Code = 代理框架
免費模型 = 智慧核心
OmniRoute = 路由層
這表示體驗品質會非常依賴你選擇的模型。
這也帶出了幾個取捨。
免費不代表無限制。
免費模型供應商通常會有像這樣的限制:
今天可用的模型,之後也可能變得不可用或受限。
對於實驗和個人專案來說,這仍然非常有用。
但如果是正式環境,你會想要更可預測的方案。
這大概是最大的問題。
Claude Code 並不只是送出提示詞,然後顯示一些文字而已。
模型必須參與一個具代理性的程式開發工作流程。
這代表它需要具備像這樣的能力:
理解任務
↓
檢查檔案
↓
呼叫工具
↓
修改程式碼
↓
執行指令
↓
觀察結果
↓
持續推理
有些模型對這類工作流程的表現意外地好。
有些則不行。
某個模型可能很擅長產生程式碼,但在以下方面表現較差:
所以,不要只根據程式碼評測分數來評估模型。
代理相容性也同樣重要。
這點很重要。
當你透過其他供應商路由 Claude Code 時,你的提示詞,甚至可能包括程式碼庫的一部分,都會送到該供應商。
在把這個設定用於私有儲存庫或敏感程式碼之前,請先確認供應商的:
如果是專屬公司程式碼、憑證、客戶資訊或正式環境的機密,我會特別小心。
你也應該檢查你連接的每一家供應商條款。
有些供應商可能會限制:
花幾分鐘閱讀供應商條款,可能就能避免日後帳號出問題。
省錢確實很吸引人。
但我認為架構才是更重要的故事。
我們正在越來越把 AI 應用程式與 AI 模型分離。
不再是:
AI 應用程式
↓
單一模型
↓
單一供應商
而是可以建立:
┌──→ 模型 A
│
AI 代理 → 閘道 ─┼──→ 模型 B
│
├──→ 模型 C
│
└──→ 模型 D
現在閘道成為代理與模型之間的抽象層。
這帶來了一些有趣的可能性。
想像一下這樣的路由:
簡單的程式修改
↓
小型 / 免費模型
複雜除錯
↓
強大的推理模型
文件撰寫
↓
快速且便宜的模型
大型重構
↓
前沿級程式模型
與其問:
「哪個 AI 模型應該驅動我的程式編寫代理?」
更好的問題或許會是:
「哪個模型應該處理這個特定任務?」
這是一種非常不同的架構。
Claude Code 不一定非得綁定單一模型供應商。
透過加入像 OmniRoute 這樣的 AI 閘道,你可以把程式編寫代理體驗與背後驅動它的模型分開。
這讓你可以嘗試:
🔀 多個供應商
🆓 免費模型
💰 更便宜的模型
🧠 更強的推理模型
⚡ 更快的模型
🛠️ 針對特定任務最佳化的模型
免費模型不會在所有程式開發任務上取代 Claude Sonnet 或 Opus。
但那其實不是重點。
有趣的是,你可以自己選擇。
而隨著 AI 程式編寫代理變得越來越強,我猜未來問題會越來越不是:
「哪個程式編寫代理擁有最好的模型?」
而會變成:
「我的程式編寫代理應該在每個任務上使用哪些模型?」
原文出處:https://dev.to/vivek_shetye/how-to-use-claude-code-for-free-with-omniroute-maa