# 免費 AI 閘道真的免費嗎？Free LLM API 和 OmniRoute 正反兩面看，差在你送出去的是什麼 來源：Realpha 讀市場（blog.getrealpha.com） 原文與圖表：https://blog.getrealpha.com/blog/free-llm-api-vs-omniroute-2026-10/ > Joe Maddalone 在 2026 年 9 月 4 日的影片裡，示範用 Free LLM API 把三十幾家 AI 服務的免費額度串成一個入口，讓程式代理自己挑模型、一毛不花，並和 OmniRoute 比較。這篇先把它的好處講到最強，再站到反面，對照各家官方條款找出「免費」的代價，最後寫我自己分派多家 AI 的經驗與判斷。技術學習分享，不是任何商業建議。 Published: 2026-10-03 Locale: zh-TW Tags: Free LLM API, OmniRoute, AI 閘道, 免費額度, 資料隱私, 決策思考 TL;DR: Free LLM API 真的能讓你零元用 AI 寫程式，但它替你挑服務商時，可能挑到一家會把你的內容拿去訓練的。公開的東西放心用；公司程式碼、個人資料，先關掉那幾家再說。 ![後印象派油畫風格封面：夜裡一座熱鬧的市集，三十幾個攤位掛著寫「免費」的燈籠，一條發光的小路自己在攤位間繞來繞去，路的盡頭有幾個攤位後面站著拿筆記本抄寫的人影](/covers/free-llm-api-vs-omniroute-2026-10.png) > *知之為知之，不知為不知，是知也。*
> —— 孔子《論語・為政》（春秋） 2026 年 9 月 4 日，Joe Maddalone 在 YouTube 示範 Free LLM API：一個裝在自己電腦上的開源程式，把三十幾家 AI 服務的免費額度串成一個入口，讓 Claude Code 這類寫程式的 AI 自己挑模型，全程不花錢。我照官方文件與各家條款（2026-10-03 查）對過一遍，「免費」是真的，但它替你挑的服務商裡，至少 Kilo、Google、NVIDIA 三家的免費方案會把你送出的內容拿去改進或訓練模型，而這個工具目前沒有「排除這類服務商」的開關，只能自己一家一家關。所以送公開的東西放心用，送公司程式碼或個人資料就要先動手關。 ## 影片在做什麼 他裝好桌面版，在「金鑰」頁貼上幾家服務的免費金鑰，有些服務根本不用金鑰。接著在測試頁問「德國的首都是哪裡」，答案很快回來，畫面顯示這次用的是 NVIDIA 的 Nemotron 3 Ultra，走的是一家叫 Kilo 的服務。他沒有指定，是程式自己挑的。 然後他複製一行指令，把 Claude Code 接上去，叫它從待辦清單挑一個簡單功能來做。做的過程中，他說了全片最關鍵的一句：這些都不是在我電腦上跑的，我沒付任何錢，我甚至不知道現在是哪一家在跑，但我不在乎，這就是重點。 後半段他拿去和 OmniRoute 比。這是另一個同類工具，他用了比較久。 ## 正方：不用管是哪一家，就是它的價值 先把它的好處講到最強，因為好處是真的。 第一，規模大。官方說明寫著支援 34 家服務商、635 個免費端點（2026-10-03 查）。一家免費額度用完，換下一家；一家今天狀況不好，換別家。每家單獨看都很小氣，Groq 免費層一天 1,000 次、OpenRouter 的免費模型一天 50 次，串起來就變成一條不太會斷的水管。 ![左邊五根高低不一的短柱全部低於一條虛線，右邊把它們疊成一根高柱，才超過那條線](/figures/free-quotas-stacked-into-one-pipe.svg) 第二，它會記帳。每次呼叫成功或失敗、回得多快，它都記下來，排出一張可靠度表，壞的那幾家你一眼就看得出來。這比自己去記「哪家今天又掛了」省事太多。 第三，門檻低。程式碼採 MIT 授權，可以免費改、免費用，GitHub 上約有三萬顆星，Mac 和 Windows 都有安裝檔。接 Claude Code 只要一行 `npx freellmapi setup-claude`。你的提示詞是從自己電腦直接送到各家服務，不經過作者的伺服器。 第四，它不必取代誰。影片說兩個工具能串起來，我去查了：Free LLM API 在 2026 年 7 月 28 日合併了一組給其他閘道串接用的端點。OmniRoute 那邊還沒做成內建選項，要串得自己設定，我還沒實測。 所以影片那句「我不在乎是哪一家」，從正方看，正是這個工具賣的東西：你只管做事，挑誰交給它。 ## 反方：不知道是哪一家，就不知道進了誰的條款 換到反面，入口就是同一句話。你不知道是哪一家在跑，也就不知道你的提示詞和程式碼進了誰的服務條款。 我先查了影片第一題走的那家 Kilo。Free LLM API 自己的服務商說明表裡寫著，Kilo 免金鑰的免費路線「提示詞與輸出會被記錄用於訓練」，原始碼註記還多一句：不要送敏感資料。也就是說，影片示範的第一個回答，就是從一家會記錄內容的服務來的。 再把其他幾家攤開（各家官方條款，2026-10-03 查）： | 服務 | 免費額度 | 免費方案的內容會不會被拿去用 | |---|---|---| | Kilo（免金鑰路線） | 每個網路位址每小時 200 次 | 會記錄，用於訓練 | | Google Gemini API 免費層 | 文件只說到後台看 | 會用來改進產品，且可能有人工審閱 | | NVIDIA NIM 試用 | 條款沒寫數字 | 會用來改進產品，包含 AI 模型；限評估用途 | | OpenRouter 免費模型 | 每分鐘 20 次、每天 50 次 | 看你的設定：會記錄的服務商，要你打開訓練開關才會被分到 | | Groq | 每天 1,000 次 | 預設不保留，除錯紀錄最多 30 天 | | Cloudflare Workers AI | 每天 10,000 單位 | 明寫不拿來訓練 | Free LLM API 的文件和原始碼裡講到訓練的，只有上面那種註記，沒有「排除會訓練的服務商」這種開關（2026-10-03 查）。能做的是在金鑰頁把那幾家關掉，前提是你知道要關哪幾家。 ![一條左右光譜，左端是會拿你的內容去訓練的服務、右端是明寫不訓練；路由的箭頭隨機落在左端那幾家上](/figures/who-trains-on-your-prompt-spectrum.svg) 還有三件事要知道。GitHub Models 在 2026 年 7 月 30 日停了，Free LLM API 五月寫的條款審查表還列著它；Cerebras 現在是 5 美元、30 天到期的試用，不是網路上常說的長期免費。Free LLM API 每天會向官網同步兩次模型清單，免費版的清單比付費版（每年 19 美元）晚 30 天更新；官方說同步時看不到你的提示詞和金鑰。作者自己在說明裡寫，這是給個人實驗用的，不適合正式上線。 影片裡也有兩處我查到的不一樣。他說 OmniRoute 壞掉的服務要自己關，但 OmniRoute 文件寫了自動斷路：連續逾時或伺服器錯誤就暫停那家，過一陣子再試，只有帳號被封、額度用完這種才要人處理。 ![上排的線在「標紅」之後就斷掉停在那裡等人，下排的線在暫停後繞一圈自己回來再試](/figures/broken-provider-stub-vs-loop.svg) 另外標題寫 Mac，但 Windows 也有安裝檔。 ## 我的判斷：差在送出去的東西能不能被人看 兩邊我都覺得對，差在一個條件：你送出去的東西，被別人看到會不會怎樣。 這不是空想，我自己家裡就在做類似的事。我同時用好幾家 AI 的訂閱，每次派工前先看各家還剩多少額度，剩得多的先派。2026 年 8 月 24 日我拿同一題請三家做，最快 18 秒、最慢 48 秒，答案全對。那次讓我相信「挑誰其實沒那麼重要」，正方說的沒錯。 但同一天我也發現自己錯判過一次：之前我看某家沒有吐出任何訊息，就判它連續失敗、停派一整天，回頭查才知道它 13 次全做完了，東西都在硬碟上，只是沒印出來。可靠度表也會看錯，它量到的是「有沒有回話」，不一定是「有沒有做到」。 ![左格儀表上一條平直無訊號的線導向「停派」的判定，右格硬碟上十三個已完成的方塊](/figures/answered-is-not-delivered.svg) 今天早上我的額度表也有兩家讀不到，只能照預設派。 我最後立的規矩跟分數無關。2026 年 9 月 12 日起，凡是不能外流的資料，只交給家裡那台電腦上的本機模型，不出家門，慢一點也沒關係。 ![一份資料走到一個判準上分成兩條路：公開的往外送給多家免費服務，不能外流的留在一道牆內的本機](/figures/one-question-two-routes.svg) 公開的東西才讓路由去挑。 所以如果你問「免費 AI 拿來寫程式到底行不行」，我的分法是這樣： - 寫開源專案、練習題、自己的小工具，程式碼本來就要公開，用 Free LLM API 很划算，設好就忘。 - 寫公司的程式、碰到客戶資料或任何金鑰，先去金鑰頁關掉 Kilo、Google 免費層、NVIDIA 試用這幾家，或乾脆別用免費路由。 - 想細調流程、跑很長的多步驟任務，OmniRoute 比較適合，兩個工具差在這幾處： | | Free LLM API | OmniRoute | |---|---|---| | 怎麼挑服務 | 依過去的成功率與速度排序 | 照你排好的組合一家一家試，有 19 種策略 | | 壞掉的服務 | 可靠度表標出來，你決定關不關 | 自動斷路，過一陣子再試 | | 省字數 | 文件沒強調 | 內建好幾種壓縮，像把工具輸出截短、把表格壓緊 | | 上手 | Mac、Windows 安裝檔，或 Docker，設好就忘 | 功能多，影片說要多花時間設定 | | 授權與規模 | MIT，約三萬顆星 | MIT，約七萬顆星 | 影片作者說他打算兩個一起用一陣子，看哪個比較煩人再決定。我覺得這是誠實的結論，只是在「設好就忘」之前，多花五分鐘看一眼你的服務商清單。 ## 帶得走的一件事 免費的價格，常常寫在條款裡，不在帳單上。 我試過的做法很簡單：挑一個你每天在用的免費工具，AI 助手、雲端相簿、翻譯網站都行，打開它的隱私條款，用瀏覽器搜尋「train」或「訓練」，找到那一句在講你的內容會不會被拿去用。五分鐘就夠，找不到也是一種答案，代表它沒打算講清楚。下次要丟一份不想外流的東西進去之前，你就知道該不該丟了。