閱讀約 4 分鐘瀏覽 6 次tech

免費 AI 閘道真的免費嗎?Free LLM API 和 OmniRoute 正反兩面看,差在你送出去的是什麼

後印象派油畫風格封面:夜裡一座熱鬧的市集,三十幾個攤位掛著寫「免費」的燈籠,一條發光的小路自己在攤位間繞來繞去,路的盡頭有幾個攤位後面站著拿筆記本抄寫的人影

Joe Maddalone 在 2026 年 9 月 4 日的影片裡,示範用 Free LLM API 把三十幾家 AI 服務的免費額度串成一個入口,讓程式代理自己挑模型、一毛不花,並和 OmniRoute 比較。這篇先把它的好處講到最強,再站到反面,對照各家官方條款找出「免費」的代價,最後寫我自己分派多家 AI 的經驗與判斷。技術學習分享,不是任何商業建議。

  • Free LLM API
  • OmniRoute
  • AI 閘道
  • 免費額度
  • 資料隱私
  • 決策思考
目錄
  1. 影片在做什麼
  2. 正方:不用管是哪一家,就是它的價值
  3. 反方:不知道是哪一家,就不知道進了誰的條款
  4. 我的判斷:差在送出去的東西能不能被人看
  5. 帶得走的一件事

後印象派油畫風格封面:夜裡一座熱鬧的市集,三十幾個攤位掛著寫「免費」的燈籠,一條發光的小路自己在攤位間繞來繞去,路的盡頭有幾個攤位後面站著拿筆記本抄寫的人影

知之為知之,不知為不知,是知也。
—— 孔子《論語・為政》(春秋)

2026 年 9 月 4 日,Joe Maddalone 在 YouTube 示範 Free LLM API:一個裝在自己電腦上的開源程式,把三十幾家 AI 服務的免費額度串成一個入口,讓 Claude Code 這類寫程式的 AI 自己挑模型,全程不花錢。我照官方文件與各家條款(2026-10-03 查)對過一遍,「免費」是真的,但它替你挑的服務商裡,至少 Kilo、Google、NVIDIA 三家的免費方案會把你送出的內容拿去改進或訓練模型,而這個工具目前沒有「排除這類服務商」的開關,只能自己一家一家關。所以送公開的東西放心用,送公司程式碼或個人資料就要先動手關。

影片在做什麼

他裝好桌面版,在「金鑰」頁貼上幾家服務的免費金鑰,有些服務根本不用金鑰。接著在測試頁問「德國的首都是哪裡」,答案很快回來,畫面顯示這次用的是 NVIDIA 的 Nemotron 3 Ultra,走的是一家叫 Kilo 的服務。他沒有指定,是程式自己挑的。

然後他複製一行指令,把 Claude Code 接上去,叫它從待辦清單挑一個簡單功能來做。做的過程中,他說了全片最關鍵的一句:這些都不是在我電腦上跑的,我沒付任何錢,我甚至不知道現在是哪一家在跑,但我不在乎,這就是重點。

後半段他拿去和 OmniRoute 比。這是另一個同類工具,他用了比較久。

正方:不用管是哪一家,就是它的價值

先把它的好處講到最強,因為好處是真的。

第一,規模大。官方說明寫著支援 34 家服務商、635 個免費端點(2026-10-03 查)。一家免費額度用完,換下一家;一家今天狀況不好,換別家。每家單獨看都很小氣,Groq 免費層一天 1,000 次、OpenRouter 的免費模型一天 50 次,串起來就變成一條不太會斷的水管。

左邊五根高低不一的短柱全部低於一條虛線,右邊把它們疊成一根高柱,才超過那條線

第二,它會記帳。每次呼叫成功或失敗、回得多快,它都記下來,排出一張可靠度表,壞的那幾家你一眼就看得出來。這比自己去記「哪家今天又掛了」省事太多。

第三,門檻低。程式碼採 MIT 授權,可以免費改、免費用,GitHub 上約有三萬顆星,Mac 和 Windows 都有安裝檔。接 Claude Code 只要一行 npx freellmapi setup-claude。你的提示詞是從自己電腦直接送到各家服務,不經過作者的伺服器。

第四,它不必取代誰。影片說兩個工具能串起來,我去查了:Free LLM API 在 2026 年 7 月 28 日合併了一組給其他閘道串接用的端點。OmniRoute 那邊還沒做成內建選項,要串得自己設定,我還沒實測。

所以影片那句「我不在乎是哪一家」,從正方看,正是這個工具賣的東西:你只管做事,挑誰交給它。

反方:不知道是哪一家,就不知道進了誰的條款

換到反面,入口就是同一句話。你不知道是哪一家在跑,也就不知道你的提示詞和程式碼進了誰的服務條款。

我先查了影片第一題走的那家 Kilo。Free LLM API 自己的服務商說明表裡寫著,Kilo 免金鑰的免費路線「提示詞與輸出會被記錄用於訓練」,原始碼註記還多一句:不要送敏感資料。也就是說,影片示範的第一個回答,就是從一家會記錄內容的服務來的。

再把其他幾家攤開(各家官方條款,2026-10-03 查):

服務免費額度免費方案的內容會不會被拿去用
Kilo(免金鑰路線)每個網路位址每小時 200 次會記錄,用於訓練
Google Gemini API 免費層文件只說到後台看會用來改進產品,且可能有人工審閱
NVIDIA NIM 試用條款沒寫數字會用來改進產品,包含 AI 模型;限評估用途
OpenRouter 免費模型每分鐘 20 次、每天 50 次看你的設定:會記錄的服務商,要你打開訓練開關才會被分到
Groq每天 1,000 次預設不保留,除錯紀錄最多 30 天
Cloudflare Workers AI每天 10,000 單位明寫不拿來訓練

Free LLM API 的文件和原始碼裡講到訓練的,只有上面那種註記,沒有「排除會訓練的服務商」這種開關(2026-10-03 查)。能做的是在金鑰頁把那幾家關掉,前提是你知道要關哪幾家。

一條左右光譜,左端是會拿你的內容去訓練的服務、右端是明寫不訓練;路由的箭頭隨機落在左端那幾家上

還有三件事要知道。GitHub Models 在 2026 年 7 月 30 日停了,Free LLM API 五月寫的條款審查表還列著它;Cerebras 現在是 5 美元、30 天到期的試用,不是網路上常說的長期免費。Free LLM API 每天會向官網同步兩次模型清單,免費版的清單比付費版(每年 19 美元)晚 30 天更新;官方說同步時看不到你的提示詞和金鑰。作者自己在說明裡寫,這是給個人實驗用的,不適合正式上線。

影片裡也有兩處我查到的不一樣。他說 OmniRoute 壞掉的服務要自己關,但 OmniRoute 文件寫了自動斷路:連續逾時或伺服器錯誤就暫停那家,過一陣子再試,只有帳號被封、額度用完這種才要人處理。

上排的線在「標紅」之後就斷掉停在那裡等人,下排的線在暫停後繞一圈自己回來再試

另外標題寫 Mac,但 Windows 也有安裝檔。

我的判斷:差在送出去的東西能不能被人看

兩邊我都覺得對,差在一個條件:你送出去的東西,被別人看到會不會怎樣。

這不是空想,我自己家裡就在做類似的事。我同時用好幾家 AI 的訂閱,每次派工前先看各家還剩多少額度,剩得多的先派。2026 年 8 月 24 日我拿同一題請三家做,最快 18 秒、最慢 48 秒,答案全對。那次讓我相信「挑誰其實沒那麼重要」,正方說的沒錯。

但同一天我也發現自己錯判過一次:之前我看某家沒有吐出任何訊息,就判它連續失敗、停派一整天,回頭查才知道它 13 次全做完了,東西都在硬碟上,只是沒印出來。可靠度表也會看錯,它量到的是「有沒有回話」,不一定是「有沒有做到」。

左格儀表上一條平直無訊號的線導向「停派」的判定,右格硬碟上十三個已完成的方塊

今天早上我的額度表也有兩家讀不到,只能照預設派。

我最後立的規矩跟分數無關。2026 年 9 月 12 日起,凡是不能外流的資料,只交給家裡那台電腦上的本機模型,不出家門,慢一點也沒關係。

一份資料走到一個判準上分成兩條路:公開的往外送給多家免費服務,不能外流的留在一道牆內的本機

公開的東西才讓路由去挑。

所以如果你問「免費 AI 拿來寫程式到底行不行」,我的分法是這樣:

  • 寫開源專案、練習題、自己的小工具,程式碼本來就要公開,用 Free LLM API 很划算,設好就忘。
  • 寫公司的程式、碰到客戶資料或任何金鑰,先去金鑰頁關掉 Kilo、Google 免費層、NVIDIA 試用這幾家,或乾脆別用免費路由。
  • 想細調流程、跑很長的多步驟任務,OmniRoute 比較適合,兩個工具差在這幾處:
Free LLM APIOmniRoute
怎麼挑服務依過去的成功率與速度排序照你排好的組合一家一家試,有 19 種策略
壞掉的服務可靠度表標出來,你決定關不關自動斷路,過一陣子再試
省字數文件沒強調內建好幾種壓縮,像把工具輸出截短、把表格壓緊
上手Mac、Windows 安裝檔,或 Docker,設好就忘功能多,影片說要多花時間設定
授權與規模MIT,約三萬顆星MIT,約七萬顆星

影片作者說他打算兩個一起用一陣子,看哪個比較煩人再決定。我覺得這是誠實的結論,只是在「設好就忘」之前,多花五分鐘看一眼你的服務商清單。

帶得走的一件事

免費的價格,常常寫在條款裡,不在帳單上。

我試過的做法很簡單:挑一個你每天在用的免費工具,AI 助手、雲端相簿、翻譯網站都行,打開它的隱私條款,用瀏覽器搜尋「train」或「訓練」,找到那一句在講你的內容會不會被拿去用。五分鐘就夠,找不到也是一種答案,代表它沒打算講清楚。下次要丟一份不想外流的東西進去之前,你就知道該不該丟了。