想在家玩 AI,先買 Mac mini 還是顯卡?先分清楚你缺的是哪一台

掄錘者講 Mac mini 賣到缺貨:蘋果跑大模型能跑、跑影片很吃力,他買它的理由是穩定、省電、軟體齊全,當成指揮 AI 的操作台。我家也拆成兩台:一台負責指揮,一台 8GB 舊顯卡負責出力,訓練再去雲端租卡。用白話講清楚「操作台」和「算力」各看哪幾格。個人心得與實測紀錄,非購買建議。

夫君子之行,靜以修身,儉以養德。
非淡泊無以明志,非寧靜無以致遠。
—— 諸葛亮《誡子書》(三國)
安靜、節省,才走得遠。這兩個詞放在一台電腦上,我第一個想到的是那台放在桌角、一年到頭不關機的小盒子。
掄錘者在 9 月 17 日的影片裡回答留言區最常問的一題:Mac mini 賣到缺貨,是不是大家都買去跑 AI?他的回答讓我重新想了一次,家裡那幾台機器各自在做什麼。
蘋果跑 AI:能跑,但別拿它跑影片
他先把話講清楚。拿 Mac 跑語言模型可以,不同大小的模型都跑得起來。拿它生圖,還勉強;拿它生影片,他的原話是「基本上就是自殺」。
原因有兩層。第一層是數字的存法:現在省記憶體的做法是把模型壓成 FP4、INT4、FP8 這些比較小的格子,蘋果目前都不支援。第二層是一般運算:用 BF16 算的時候,蘋果晶片比同級的 NVIDIA 或 Intel 顯卡慢一截,生圖用的 ComfyUI、跑模型用的 SGLang 對它的支援也比較晚。
第一層可以想成出國打包。FP4、INT4 像真空壓縮袋,同一個行李箱可以塞進兩三倍的衣服;蘋果目前不收壓縮袋,衣服只能照原樣摺進去,箱子就得買大一號。這也是 Mac 跑大模型時,記憶體要一路往上加的原因。
所以他的建議很直接:想拿 Mac 舒服地跑大模型,要準備人民幣五萬以上,買到 M5 Max 那一級。
他買 Mac mini 的理由,一件跟算力無關
他自己買的是最便宜的那台:M4 Mac mini、24GB 記憶體,加上補貼和教育優惠,人民幣 4,000 元左右。拿它跑一個 20B 上下的模型,他說「不能打」。
那他拿它做什麼?他的螢幕上同時開著三個瀏覽器、剪輯軟體、寫程式的編輯器、聊天軟體,還有好幾個 AI 助理各自在跑。當天有一個助理自己開了安卓模擬器,幫他測論壇 app,把最後幾個錯誤修掉。
他看重三件事:
- 穩:這台 mini 一年到頭不關機,除了系統更新必須重開,他沒遇過當機。
- 記憶體夠用:同樣的工作量,他在 Windows 上最少要 32GB,在 Mac 上 24GB 跑得很順。
- 軟體齊:底層是 Unix,繼承了權限管理和服務的穩定;上層有完整的商業軟體,剪輯、聊天工具都有,還能開發蘋果 app。
他也講了反面。他兩台筆電升上 Windows 11 之後,更新關不掉、每次更新都帶新毛病,放著不動也會自己當掉。他把其中一台改裝 Ubuntu,從此穩定得讓人生氣,可是 Ubuntu 的桌面介面他覺得很難用,很多商業軟體和聊天工具也沒有 Linux 版。
蘋果剛好卡在中間:有 Linux 的穩,也有 Windows 那樣齊全的軟體。這個理由從頭到尾跟跑模型無關。
聽到這段,手上已經有 Windows 電腦的人會想:那我要不要換?我自己指揮 AI 用的就是一台 Windows 筆電。我的看法是先查自己卡在哪一格:你每天要用的軟體都在 Windows 上,機器也沒有三天兩頭當掉,那就沒有理由跟著搶貨。會讓我想換的,是哪天它開始在半夜自己重開、打斷正在跑的工作。
我家也拆成兩台:一台指揮,一台出力
聽到這裡我想到自己家。我手上沒有 Mac,可是分工跟他一樣:一台筆電整天開著,負責指揮幾個 AI 助理排工作;另一台 Windows 桌機裝了一張 8GB 的 AMD 舊顯卡,負責唸文章、生圖、跑本地模型這些要算力的事。
指揮聽起來很玄,做的事很瑣碎:把工作拆成一張一張的單子、交給不同的助理、盯著誰做完了、把結果收回來檢查。這些事不需要顯示卡,需要的是機器一直醒著、同時開很多東西也不卡。出力那台剛好相反,平常可以閒著,一接到重活就把顯示卡吃滿。
今天就遇到分工的好處和限制。我想在桌機上測一個語音模型,查了一下,顯示記憶體 8GB 只剩 0.71GB,因為它正在把一篇部落格文章唸成有聲版。一張卡同時只做得了一件大事,測試只能排隊。指揮的那台沒受影響,照樣在做別的事。
出力那台就算做得動,也有慢的時候。用其中一個語音模型把文章唸成有聲版,唸一分鐘要算 13 到 15 分鐘,一篇 13 分鐘的文章要跑三個小時左右。它慢慢唸,指揮那台照常派別的工作,兩邊互不耽誤。
更重的活它就做不動了。訓練一個聲音模型,8GB 舊卡放不下,我就去雲端租一張 RTX 4090。9 月 16 日到 17 日我記下的租金,每小時 0.74 美元,搶便宜的共享機位是 0.34 美元。一年用不到幾次的算力,租比買划算。
操作台和算力拆開後,一台壞掉不會拖垮另一台。這一點我是做了之後才體會到的。
想玩 AI,先問自己缺的是哪一台
很多人卡在「要買 Mac mini 還是買顯卡」,這兩個選項買到的是兩種東西。
拿餐廳來比。櫃台從開門到打烊都要有人,要穩、要整齊、點菜系統不能當;廚房的大火爐平常小火保溫,客人一湧進來才全開。你不會拿大火爐當櫃台,也不會期待櫃台炒出一桌菜。
如果你缺的是操作台,看這四格:
- 能不能一年到頭開著,不自己當機、不擅自重開。
- 開十幾個視窗和幾個 AI 助理,記憶體夠不夠。
- 安不安靜、省不省電,畢竟它整天開著。
- 你每天要用的軟體,這個系統上有沒有。
這四格,Mac mini 分數都很高,這就是它賣到缺貨的原因。
如果你缺的是算力,看另外兩格:顯示記憶體決定塞得下多大的模型,BF16 決定新工具跑不跑得順。這兩格我在〈本地跑 AI 的顯卡怎麼選〉拆過了。偶爾才用的算力,先租一個月看看自己用多少,再決定要不要買。
最貴的錯法,是想買算力卻買了操作台,或反過來。拿 24GB 的 Mac mini 生影片,會跟他說的一樣慘;拿一台吵又耗電的顯卡主機當整天開著的操作台,電費和噪音每天都在收錢。
他想帶去鄉下的那套設備
影片最後他聊到一個好玩的想法:以後想回鄉下老家住,院子整理一下,一個人住很寬敞。他想試試少靠外面的網路和電,還能不能照常工作。
他的設備清單也是同一個分工。日常工作用蘋果筆電,因為最省電、最安靜。重的工作丟到一台伺服器上,伺服器不 24 小時開著,要用才開。網路除了固定線路,再把三家電信的 5G 都接上做成路由器,一家斷了還有兩家。
整天開著的東西要省,偶爾開的東西才能兇,會斷的東西要備援。他講的是鄉下生活,我聽起來是一份很好的機器分工表。
帶得走的一件事
買工具之前,先分清楚你要的是「整天陪著你的」還是「偶爾出大力的」。 整天陪著的,要挑穩、省、安靜;偶爾出大力的,要挑夠力,而且可以先租。兩種混在一起買,常常兩邊都不滿意。
今天可以試一件事:把你每天會用到的一樣工具寫下來,可以是電腦、車、廚房的鍋子,都行。問自己兩題:它一天用幾個小時?最需要它的那一刻,要的是穩定還是力氣?如果答案是「整天用、要穩定」,下次換的時候就別被規格表上的最大馬力吸走;如果是「偶爾用、要力氣」,先想想附近能不能借或租到。