岸邊的位置只有那麼多——聽 Supply Chained 談高頻寬快閃記憶體

目錄

1. 十五年前有人這樣跟他講，他會問哪裡合理
2. 一個做出來放了八年才有人要的東西
3. 疊到二十層就停住，所以快閃被重新拿出來
4. 一百萬個 token 裝不下一個人的一生
5. 他在展場攤位前面看到的另一條線
6. 記憶體在漲，這一輪到底誰在賺
7. 新技術的故事聽起來都成立，哪一句我能信
8. 可以參考的資料
9. 帶得走的一件事

人群分而物異產，來往貿遷，以成宇宙。若各居而老死，何藉有群類哉？

—— 宋應星《天工開物・舟車》（明，1637 年）

2026 年 11 月 3 日《Supply Chained》這一集〈High-Bandwidth Flash〉，主持人 John（Asianometry）跟 Tim Culpan（Culpium）聊高頻寬快閃記憶體（HBF）——把快閃記憶體照高頻寬記憶體（HBM）的方式封裝到運算晶片旁邊。Tim 轉述 SK 海力士一位高階主管對 HBM 的評語：「這是我們目前手上最好的東西。」兩人的出發點是 HBM 疊到二十層左右就停住，往上看不到路；而快閃的容量大得多，寫入壽命卻只有一萬到十萬次循環，拿去撐 KV 快取一兩個月就磨完。這集沒有給答案，節目裡的數字也都是他們轉述的業界說法與自己的推估，不是規格書上的保證。

十五年前有人這樣跟他講，他會問哪裡合理

John 在節目裡描述了一個他自己也覺得荒謬的場景：你丟一個代理式的查詢進去，模型開始自己跑任務，這時候硬體那邊發生的事是——資料從記憶體被整批抽出來，灌進 GPU，再掃回去，再掃出來，一來一回，每吐一個字都走一輪。

十五年前大家在比的是時脈，後來比核心數。再往前推，話題是 CPU 的管線跟分支，一堆人花力氣把指令塞進去排好。這些現在都沒人談了，剩下的題目只有一個：存取記憶體有多快。兩人聊到 Intel 當年 Itanium 沒推起來、被 x86 綁住，是後來受限的一個被低估的原因；而今天的晶片長相換成一大堆記憶體、一堆累加器跟乘法器，剩下的交給台積電想辦法。

一個做出來放了八年才有人要的東西

Tim 問 John 怎麼看 HBM，好的壞的還是醜的。John 的答案只有一句：它貴。貴不是壞事。

他說 HBM 是那種「先把一個了不起的東西做出來，再看有沒有人買」的極端案例——做出來之後八年沒人要，然後到今天替幾家公司印鈔票。節目裡有一句我記了很久：這是拿方釘往圓洞裡硬敲，因為手上只有這個。

二〇一〇年代後期三星手上有 HBM3，當時算走在前面，可是連他們自己都覺得這條路走不通、不知道能拿它做什麼，於是轉去做記憶體裡面的邏輯，也就是運算記憶體。John 把概念講得很白：原本是把資料從記憶體搬到邏輯那一側，運算記憶體反過來，把邏輯搬進記憶體模組——今天 HBM 最底下那層基底晶片已經用上四奈米、三奈米這種製程，當年的想法就是在那一層放處理器，資料上下算完就好，連搬到晶片邊緣再進 GPU 這一段都省掉。這是在繞開范紐曼架構那個瓶頸。

概念漂亮，執行很難。John 說他問過三星的人，對方的回答是：這需要大量的程式、大量的軟體解法。他補一句，當時大家低估了 CUDA 這套框架有多強。所以三星沒把它推起來，後來也就擺著。

疊到二十層就停住，所以快閃被重新拿出來

那 HBM 之後呢？有一種說法是它還有五年。節目裡最讓我停下來的一段，是記憶體廠的心態：那就繼續疊啊，繼續往上堆記憶體晶片。可是堆不上去有物理上的原因。John 說他看不到二十層的路——也許有人想得出聰明辦法，但二十就是上限。

二十層之後要往哪走？這就是 HBF 被拿出來講的理由。概念簡單到一句話講完：快閃的容量大得驚人，那我們就把快閃照 HBM 的方式封裝起來，然後看有沒有人會用。SanDisk 那邊的態度是他們做得出來，John 的評語是「希望如此，但誰知道」。

為什麼要往核心旁邊塞？節目裡的比喻是公路：距離越遠，車跑越久；把公路縮短，車就快。GPU 四周邊緣那一圈空間業界叫岸線，資料進出走的就是那裡，而岸線的量體有限。HBF 想做的事，是在同一塊岸線上塞進多得多的容量，又保住吞吐。

Tim 接了一個實際的問題：八個岸線槽位，留六個 HBM、換兩個 HBF，會是兩邊的好處都拿到，還是兩邊的壞處都拿到？John 說論文上大家都在想這種混搭，卡住的地方在軟體怎麼實作——走到那一步，你得先懂模型是怎麼運作的，然後開始在兩種記憶體之間分配。這下子東西就變得高度客製。

一百萬個 token 裝不下一個人的一生

問題是快閃並不快，名字裡有個「閃」而已。更麻煩的是它會磨損。John 說 DRAM 有一件事可以掛保證：它開開停停、停停開開，不會停，也不會磨壞。快閃的單元跑過一萬到十萬次寫入循環就開始壞，往後還越來越差。

接下來這段是我覺得整集最值得抄走的推論。John 想把話題拉回 KV 快取——模型生成時暫存的那份東西——他認為這是今天模型種種限制裡被低估的一塊。現在模型到一百萬個 token 的脈絡就撐不住，得開始壓縮，或者用各種技巧挑哪些東西進得去脈絡。他說一百萬個 token 聽起來多，攤開來看是幾千本書，可是換成聲音只有幾小時；拿一個人的一生來比，那點經驗量不算什麼。如果能拉到十億個 token，等於突然有了二三十年的人生經驗。

然後他下一句是：HBM 到不了那裡，因為 DRAM 已經在極限上。那還剩什麼？快閃。

Tim 馬上把刀子插回來：HBF 要是拿去放 KV 快取，那是讀寫都頻繁的用途，十萬次循環一兩個月就燒完。怎麼辦？他自己也說不知道，做冗餘，或者就當它是計畫性報廢。

John 問過 SanDisk 的人，答案是配方可以調——牆做厚一點，還有一堆手段，讓壽命撐久一些。拿不掉的是物理，但可以換。原本快閃是在跟硬碟搶飯碗，那就得保證資料放十年；代理式的任務跑得久，可沒有硬碟那種久。所以把保存年限讓出去，換回來更多次循環、更耐熱。這是一筆說得出誰吃虧的交換。

Tim 另外提了兩個 HBF 可能更合身的位置。一個是推論端的客製晶片：把權重或權重的一部分、KV 快取放進去，讀多寫少，而且你知道自己的模型長什麼樣，GPU 相對通用，反而不合。另一個是邊緣裝置——工廠裡、機器人上、一台網路攝影機裡的模型，如果它不需要每兩個月更新，HBF 給的是存取夠快、又還能更新，比把模型直接燒進唯讀記憶體有彈性。

他在展場攤位前面看到的另一條線

最後一段跟台灣有關。Tim 的觀察是 HBM 對台灣很好——HBM 說到底是封裝，所以台積電跟其他人被推到最前面。HBF 會不會一樣好，他說不知道。可是他在 Semicon Taiwan 逛的時候繞到量測與檢測的攤位，一堆公司對專為 HBF 設計的量測檢測方案很興奮，有幾家告訴他，他們正在驗證要給美光用的方案，預計明年進廠。台灣另一塊能吃到的，是控制這一切怎麼運作的微控制器。

節目最後兩人開玩笑說要成立一家 HBF 微控制器公司，名字還沒想好，正在找創投。John 說你現在匯一億美元過來我就給你一家，Tim 糾正他：我們講好最低一張支票五千萬，因為想讓更多人進來。我聽到這裡笑出來，也順手記下來——這集真正站得住的部分，是他們願意把不知道說成不知道。

記憶體在漲，這一輪到底誰在賺

我猜有人聽到這裡會想的是：記憶體漲成這樣，錢到底進了誰的口袋。這題我自己問錯過一次——把「東西缺」當成「賣東西的人有議價權」。這集幫我補了一塊：HBM 做出來那八年沒人買，而那八年它也難做、也貴、也只有少數人做得出來，可是沒有錢。價差來自那一層變成整個系統過不去的瓶頸，與它難不難做無關。

所以我現在看這類題目的順序是，先畫從終端往上游的堆疊，再問一句：需求翻倍的時候最先斷的是哪一層。HBM 現在是那一層，因為二十層的上限是物理擺在那裡。可是上限也是雙面刃——它既讓 HBM 現在稀缺，也預告了稀缺的終點：到了頂，下一個瓶頸換到別的地方，而換過去的時候，前一層的價差會一起走。HBF 這條線正在排隊當候選。

另外一個我學到的用法是，瓶頸會外溢到賣鏟子的人。Tim 在攤位前面看到的那批量測檢測公司，吃的是同一輪需求，離技術成敗更遠一點——HBF 成了，他們有生意；HBF 換成別的封裝難題，他們照樣有生意。這種位置在估值上通常不便宜，可是失效條件比押單一技術寬得多。

新技術的故事聽起來都成立，哪一句我能信

另一個常見的處境：新技術的敘事講得都通，我怎麼知道哪一句能信。

我從這集抄走的做法是去找「交換條件」那一句。HBF 的故事裡，能信的部分是 SanDisk 說配方可以調、把保存年限換成循環次數跟耐熱——這是一個具體、會痛、說得出誰吃虧的交換。不能信的部分長什麼樣？「我們就繼續往上疊」這種，沒有交換，只有延伸，而 John 對這句的回應是看不到路。

第二個是看它有沒有把難的地方往別人身上推。HBM 跟 HBF 混搭聽起來划算，但 John 把難點指出來了：軟體怎麼分配，而且得懂模型怎麼跑。一個方案如果把困難整包搬到軟體那一側，它的時程就取決於別人家的軟體什麼時候好。三星的運算記憶體當年就倒在這裡，概念沒錯，CUDA 太強。

第三個是看錢什麼時候到。HBM 的空窗是八年。一個技術「對」跟這個技術「開始賺」之間可以隔一整個週期，而我手上的東西撐不撐得過那段空窗，跟技術對不對是兩回事。我自己吃過的虧都在這一格：方向猜對，時間沒算進去。

可以參考的資料

• 《Supply Chained》〈High-Bandwidth Flash〉，2026 年 11 月 3 日，Asianometry 的 John 與 Culpium 的 Tim Culpan 對談
• Asianometry 頻道關於 HBF 的那支影片，節目裡的脈絡窗與 token 數量比較出自那裡
• JEDEC 的 HBM 規格文件，看堆疊層數與基底晶片的界線寫在哪一條
• SanDisk 與美光的技術說明與法說會紀錄，對照「保存年限換循環次數」這個取捨被怎麼描述
• Semicon Taiwan 的議程與展商名單，量測與檢測這一塊的廠商是這集提到的台灣機會

帶得走的一件事

一個觀念：岸線有限，所以「把東西放近」比「把機器做快」更有用。這集從頭到尾在繞的就是這件事——時脈不是題目了，核心數不是題目了，剩下的題目是資料離運算的地方有多遠。稀缺的是「靠近」這個位置：容量可以堆，速度可以調，GPU 四周那一圈的寬度卻是固定的，所以誰被放上岸線、誰被擠到外圈，決定了一整代系統長什麼樣。

我試過的一個做法，今天就能做：數一次你一天裡伸手最多次的三樣東西——可能是鑰匙、水杯、一份每天要開的檔案，也可能是三個你一天要找好幾次的人——然後看它們現在離你多遠。每一次「去拿」都在付距離的代價，而你一天付幾十次。挑一樣搬到手邊，把岸線讓給它。我自己搬的是放在另一個房間的充電線，每天省掉大概八趟。

Markdown 原文

本文為投資方法論的教育性分享，不構成任何個股買賣建議、不提供目標價、不針對當期標的。投資有風險，任何決策請自行判斷或諮詢合格的專業人士。