免費 AI 閘道真的免費嗎?Free LLM API 和 OmniRoute 正反兩面看,差在你送出去的是什麼

Joe Maddalone 在 2026 年 9 月 4 日的影片裡,示範用 Free LLM API 把三十幾家 AI 服務的免費額度串成一個入口,讓程式代理自己挑模型、一毛不花,並和 OmniRoute 比較。這篇先把它的好處講到最強,再站到反面,對照各家官方條款找出「免費」的代價,最後寫我自己分派多家 AI 的經驗與判斷。技術學習分享,不是任何商業建議。

知之為知之,不知為不知,是知也。
—— 孔子《論語・為政》(春秋)
2026 年 9 月 4 日,Joe Maddalone 在 YouTube 示範 Free LLM API:一個裝在自己電腦上的開源程式,把三十幾家 AI 服務的免費額度串成一個入口,讓 Claude Code 這類寫程式的 AI 自己挑模型,全程不花錢。我照官方文件與各家條款(2026-10-03 查)對過一遍,「免費」是真的,但它替你挑的服務商裡,至少 Kilo、Google、NVIDIA 三家的免費方案會把你送出的內容拿去改進或訓練模型,而這個工具目前沒有「排除這類服務商」的開關,只能自己一家一家關。所以送公開的東西放心用,送公司程式碼或個人資料就要先動手關。
影片在做什麼
他裝好桌面版,在「金鑰」頁貼上幾家服務的免費金鑰,有些服務根本不用金鑰。接著在測試頁問「德國的首都是哪裡」,答案很快回來,畫面顯示這次用的是 NVIDIA 的 Nemotron 3 Ultra,走的是一家叫 Kilo 的服務。他沒有指定,是程式自己挑的。
然後他複製一行指令,把 Claude Code 接上去,叫它從待辦清單挑一個簡單功能來做。做的過程中,他說了全片最關鍵的一句:這些都不是在我電腦上跑的,我沒付任何錢,我甚至不知道現在是哪一家在跑,但我不在乎,這就是重點。
後半段他拿去和 OmniRoute 比。這是另一個同類工具,他用了比較久。
正方:不用管是哪一家,就是它的價值
先把它的好處講到最強,因為好處是真的。
第一,規模大。官方說明寫著支援 34 家服務商、635 個免費端點(2026-10-03 查)。一家免費額度用完,換下一家;一家今天狀況不好,換別家。每家單獨看都很小氣,Groq 免費層一天 1,000 次、OpenRouter 的免費模型一天 50 次,串起來就變成一條不太會斷的水管。
第二,它會記帳。每次呼叫成功或失敗、回得多快,它都記下來,排出一張可靠度表,壞的那幾家你一眼就看得出來。這比自己去記「哪家今天又掛了」省事太多。
第三,門檻低。程式碼採 MIT 授權,可以免費改、免費用,GitHub 上約有三萬顆星,Mac 和 Windows 都有安裝檔。接 Claude Code 只要一行 npx freellmapi setup-claude。你的提示詞是從自己電腦直接送到各家服務,不經過作者的伺服器。
第四,它不必取代誰。影片說兩個工具能串起來,我去查了:Free LLM API 在 2026 年 7 月 28 日合併了一組給其他閘道串接用的端點。OmniRoute 那邊還沒做成內建選項,要串得自己設定,我還沒實測。
所以影片那句「我不在乎是哪一家」,從正方看,正是這個工具賣的東西:你只管做事,挑誰交給它。
反方:不知道是哪一家,就不知道進了誰的條款
換到反面,入口就是同一句話。你不知道是哪一家在跑,也就不知道你的提示詞和程式碼進了誰的服務條款。
我先查了影片第一題走的那家 Kilo。Free LLM API 自己的服務商說明表裡寫著,Kilo 免金鑰的免費路線「提示詞與輸出會被記錄用於訓練」,原始碼註記還多一句:不要送敏感資料。也就是說,影片示範的第一個回答,就是從一家會記錄內容的服務來的。
再把其他幾家攤開(各家官方條款,2026-10-03 查):
| 服務 | 免費額度 | 免費方案的內容會不會被拿去用 |
|---|---|---|
| Kilo(免金鑰路線) | 每個網路位址每小時 200 次 | 會記錄,用於訓練 |
| Google Gemini API 免費層 | 文件只說到後台看 | 會用來改進產品,且可能有人工審閱 |
| NVIDIA NIM 試用 | 條款沒寫數字 | 會用來改進產品,包含 AI 模型;限評估用途 |
| OpenRouter 免費模型 | 每分鐘 20 次、每天 50 次 | 看你的設定:會記錄的服務商,要你打開訓練開關才會被分到 |
| Groq | 每天 1,000 次 | 預設不保留,除錯紀錄最多 30 天 |
| Cloudflare Workers AI | 每天 10,000 單位 | 明寫不拿來訓練 |
Free LLM API 的文件和原始碼裡講到訓練的,只有上面那種註記,沒有「排除會訓練的服務商」這種開關(2026-10-03 查)。能做的是在金鑰頁把那幾家關掉,前提是你知道要關哪幾家。
還有三件事要知道。GitHub Models 在 2026 年 7 月 30 日停了,Free LLM API 五月寫的條款審查表還列著它;Cerebras 現在是 5 美元、30 天到期的試用,不是網路上常說的長期免費。Free LLM API 每天會向官網同步兩次模型清單,免費版的清單比付費版(每年 19 美元)晚 30 天更新;官方說同步時看不到你的提示詞和金鑰。作者自己在說明裡寫,這是給個人實驗用的,不適合正式上線。
影片裡也有兩處我查到的不一樣。他說 OmniRoute 壞掉的服務要自己關,但 OmniRoute 文件寫了自動斷路:連續逾時或伺服器錯誤就暫停那家,過一陣子再試,只有帳號被封、額度用完這種才要人處理。
另外標題寫 Mac,但 Windows 也有安裝檔。
我的判斷:差在送出去的東西能不能被人看
兩邊我都覺得對,差在一個條件:你送出去的東西,被別人看到會不會怎樣。
這不是空想,我自己家裡就在做類似的事。我同時用好幾家 AI 的訂閱,每次派工前先看各家還剩多少額度,剩得多的先派。2026 年 8 月 24 日我拿同一題請三家做,最快 18 秒、最慢 48 秒,答案全對。那次讓我相信「挑誰其實沒那麼重要」,正方說的沒錯。
但同一天我也發現自己錯判過一次:之前我看某家沒有吐出任何訊息,就判它連續失敗、停派一整天,回頭查才知道它 13 次全做完了,東西都在硬碟上,只是沒印出來。可靠度表也會看錯,它量到的是「有沒有回話」,不一定是「有沒有做到」。
今天早上我的額度表也有兩家讀不到,只能照預設派。
我最後立的規矩跟分數無關。2026 年 9 月 12 日起,凡是不能外流的資料,只交給家裡那台電腦上的本機模型,不出家門,慢一點也沒關係。
公開的東西才讓路由去挑。
所以如果你問「免費 AI 拿來寫程式到底行不行」,我的分法是這樣:
- 寫開源專案、練習題、自己的小工具,程式碼本來就要公開,用 Free LLM API 很划算,設好就忘。
- 寫公司的程式、碰到客戶資料或任何金鑰,先去金鑰頁關掉 Kilo、Google 免費層、NVIDIA 試用這幾家,或乾脆別用免費路由。
- 想細調流程、跑很長的多步驟任務,OmniRoute 比較適合,兩個工具差在這幾處:
| Free LLM API | OmniRoute | |
|---|---|---|
| 怎麼挑服務 | 依過去的成功率與速度排序 | 照你排好的組合一家一家試,有 19 種策略 |
| 壞掉的服務 | 可靠度表標出來,你決定關不關 | 自動斷路,過一陣子再試 |
| 省字數 | 文件沒強調 | 內建好幾種壓縮,像把工具輸出截短、把表格壓緊 |
| 上手 | Mac、Windows 安裝檔,或 Docker,設好就忘 | 功能多,影片說要多花時間設定 |
| 授權與規模 | MIT,約三萬顆星 | MIT,約七萬顆星 |
影片作者說他打算兩個一起用一陣子,看哪個比較煩人再決定。我覺得這是誠實的結論,只是在「設好就忘」之前,多花五分鐘看一眼你的服務商清單。
帶得走的一件事
免費的價格,常常寫在條款裡,不在帳單上。
我試過的做法很簡單:挑一個你每天在用的免費工具,AI 助手、雲端相簿、翻譯網站都行,打開它的隱私條款,用瀏覽器搜尋「train」或「訓練」,找到那一句在講你的內容會不會被拿去用。五分鐘就夠,找不到也是一種答案,代表它沒打算講清楚。下次要丟一份不想外流的東西進去之前,你就知道該不該丟了。