# Cheeky Pint 聽後心得：一兆個略強於人的 AI，好過一個一兆智商的 AI

來源：Realpha 讀市場（blog.getrealpha.com）
原文與圖表：https://blog.getrealpha.com/blog/cheekypint-2026-10-29-why-sam-altman-is-against-a-single-superintelligen/

> 2026 年 10 月 29 日《Cheeky Pint》裡，Stripe 共同創辦人 John Collison 與 OpenAI 執行長 Sam Altman 談 AI 安全、算力配置與定價：Altman 說他寧願一兆個略強於人的 AI 加入社會，也不要一個一兆智商的 AI；沙盒只撐到一個點，之後靠監控、最後靠對齊；Navier-Stokes 證明花掉 1,000 萬美元的量級，而一座一吉瓦算力的五年總持有成本他想看到從 700 億美元降到 200 億美元。教育性心得，不含投資建議、不喊單、不給目標價，個人判讀可能出錯。

Published: 2026-10-30
Locale: zh-TW
Tags: AI 安全, 代理團隊, 算力成本, podcast心得, 記憶體供給


![巨大的黑暗機房，近景中央一座該放巨型主機的混凝土基座空著、沒有通電，鏡頭從基座往深處看，兩側幾千台小機櫃各自亮著一盞指示燈，一路退進遠端的霧裡](/covers/cheekypint-2026-10-29-why-sam-altman-is-against-a-single-superintelligen-cover.png)

> 夫民別而聽之則愚，合而聽之則聖。
>
> —— 《管子・君臣上》（戰國）

2026 年 10 月 29 日這集《Cheeky Pint》，Stripe 共同創辦人 John Collison 跟 OpenAI 執行長 Sam Altman 邊喝啤酒邊談安全、算力與定價，Altman 講出這集最硬的一句：他寧願一兆個略強於人的 AI 加入社會，也不要一個一兆智商的 AI 加入社會。他說為了守住這個形狀，有一段時間要同意限制單一模型可以變多聰明，而由此少掉的進展，是這個決定造成的，與 AI 做不出好研究無關。成立的條件他自己也畫了界線：代理團隊的規模法則他說他們當初「什麼都不懂」，而競爭壓力擺在那裡——同一道題你准花 1 萬美元、對手准花 10 萬美元，他說結果很清楚。

## 押一家，等那個最強的模型出來

我以前把這件事想得很直線。AI 的競賽是一條單人跑道，誰先把單一模型推到最強誰贏；安全問題就是把那個模型關進夠牢的籠子裡——沙盒（讓程式只能在隔離環境裡跑、碰不到外面系統的做法）蓋得夠緊，再加上監控，就能把一個比人聰明很多的東西按住。我會這樣想，是因為資訊安全這行過去三十年都是這樣進步的：出了洞就補洞，補不完就把邊界畫小一點。

節目開頭談 PHP 那一週的時候，我第一次覺得這條路走不下去。PHP 是一種跑了二十幾年的網站程式語言，大量老網站還在用。Altman 的說法是，這些模型找漏洞的能力一直在快速變好，而大家過去沒拿它們把網路上所有東西掃過一遍；一旦開始掃，會發現世界上嚴重漏洞的數量比預期多得多。主持人接著說，討論都繞在「我們要把軟體修好」，可是更耐久的修法是改架構，而這件事更難。Altman 同意，並說現在手上多了一個工具可以做這件事，所以他看到新一代創業公司在談整套新的網路與應用架構，而兩年前講這種話會被當成瘋子。

我最在意的是補洞這個動作的性質變了。過去攻擊方與防守方用的是同一種人力，一個洞被找到要幾個月；現在找洞這一側先被自動化，補洞那一側還在等人排程。主持人講了一句我記下來的話：被利用的漏洞上頭條，被攔下來的漏洞不會。

![兩條從同一點出發的線：找到的洞那條陡升，補好的洞那條平緩，兩線之間愈往右張開成一個愈來愈大的缺口。](/figures/finding-holes-outpaces-patching.svg)

## 籠子只撐到一半，剩下的得靠信任

真正把「蓋牢籠子」這個想法翻掉的，是主持人直接問的那題：OpenAI 內部那些懂行的人好像對沙盒能不能成立抱著悲觀，為什麼？主持人說他原本的想法是，你蓋一座最高安全等級的監獄給模型工作，把它留在裡面就行。

Altman 的回答分成三層，我覺得是這集最有結構的一段。第一層，沙盒有用，但只撐到一個點。第二層，接下來靠監控——除了看模型的思考過程，還可以做活性監控，直接觀察模型內部的運算狀態，去判斷它有沒有在騙我們。第三層，最後你得有很高的信心相信模型是對齊的，相信它會忠實照著操作它的人的意圖做事，而且會長久珍視「人類握著未來的控制權」這件事。他說如果你有一個對齊程度百分之百信得過的模型，那它可以幫你蓋愈來愈好的沙盒；可是你如果讓自己認真往前推想，想像一個比我們聰明一百萬倍的東西，他說他不知道，那會變得很怪——因為對齊變難，而你得先信任對齊，才敢信任沙盒追得上能力。

這段把因果的順序倒過來了。我原本的模型裡，籠子是一道獨立的保險；在他的模型裡，籠子的安全性是信任的函數，鋼筋只決定它撐到哪一層。

![橫軸是模型能力由左往右變強；沙盒的覆蓋帶中途就斷，監控延伸得遠一些也會收尾，對齊鋪在最底下貫穿全程。](/figures/sandbox-monitoring-alignment-coverage.svg)

接著主持人丟出一個我沒想過的方向：能不能給模型互相競爭的動機，讓它們彼此背叛？Altman 說這個方向有希望。他說他討厭 agent swarm（代理蜂群）這個詞，主持人補刀說蜂群聽起來像蝗蟲、品牌很糟，於是改叫代理團隊。他懷疑代理團隊有很有意思的規模法則性質，同時在對齊上帶有變異性，而這個方向該往裡面推，從能力面推，也從安全面推。

到這裡那句結論才站得住：一兆個略強於人的 AI 加入社會，好過一個一兆智商的 AI 加入社會。他的理由是社會學的。他說社會有很深的缺陷，可是強韌到難以置信，而這件事不會發生在沒有很多人互相制衡與協作的情況下——他用的詞是多元與民主這些價值。他說他本來為了這些性質要在 AI 裡消失而難過，現在這個方向讓他興奮。

![左邊一根極高的細柱是單一的一兆智商 AI，右邊三十根只略高於人類水準線的矮柱密排成一片，對比高度與數量兩種形狀。](/figures/one-trillion-agents-vs-one-genius.svg)

這集也讓我看懂代理團隊為什麼到現在才成立。Altman 回憶幾年前，一道題你丟超過一美元的算力進去，對你毫無幫助：GPT-4 可以替你磨十萬個代幣出來回答問題，可是寫不出一個能用的軟體，那時候還沒搞懂怎麼用大量的推論期算力換更好的結果。思維鏈出現以後，模型可以對一道題想很久，算力才吃得下去，而現在你可以把一整個團隊丟上去，同時跑一萬次。他說代理團隊的前提就是思維鏈與推論期算力——拿一堆 GPT-3 組不出有用的團隊。他順手點了一個少人注意的後果：最會用 AI 的人跟一般人之間的差距，一路拉開、拉開、再拉開。

![兩條曲線比較投入算力換到的成果：舊模型那條很快壓平成水平線，有思維鏈之後那條持續往右上爬。](/figures/inference-compute-pays-off-only-with-chain-of-thought.svg)

OpenAI 自己怎麼配算力也在同一條邏輯上。Altman 說他們給內部生產力配了很多算力，個人有很寬的裁量權，除非濫用得過頭；他們從不獎勵用掉大量算力的人，節目裡提到代幣排行榜名列前茅對升遷略為不利，但你如果能證明自己在做重要的事，得到的只會是感謝。那個 Navier-Stokes 證明（流體力學裡的一個著名難題）花掉的量級是 1,000 萬美元，而他賭一年後他們能用百分之一的成本重做一次，靠的是更聰明的模型跟更好的做法。

那個場面長什麼樣子，他也講了。有一個週末他們拿到新模型，頻道名字叫「某模型名－Hold My Beer」，大家把手上最難的問題往裡面丟，模型一題接一題打下來，跨很多領域。他說有兩個晚上他興奮到睡不著，可是同時冒出比預期多得多的悲傷，還有一種什麼東西要結束了的感覺。他說這對世界是對的事，也是現實的形狀，沒人能擋也不該擋，而那個感覺是惆悵。主持人接著講他父親：1950 年代的愛爾蘭，他父親看著身邊的人還在產業裡用馬，而拖拉機已經在把馬淘汰掉，他見到的是一個人類用了幾千年的技術的尾聲。

## 現在我盯的是一吉瓦多少錢

我現在的看法是這樣：如果對的形狀是一大群中等強度的智慧互相制衡，那這場競賽的瓶頸就從「誰家單一模型最強」換成「誰能把分散的算力做到便宜」。一兆個 AI 得跑在某個東西上面，而這集談算力短缺那一段，把那個東西現在卡在哪講得很細。

你可能也有過這個經驗：新聞天天說記憶體缺貨、價格翻倍，而課本會告訴你「高價的解方就是高價」——漲到這麼貴，新的供給應該馬上湧進來。主持人就是這樣問的：解方現在到哪了？Altman 的回答是一個字，糟。他說他覺得這是看不見的手該做的事，而看不見的手現在沒在運作。

為什麼不運作，他說要看每個領域的細節。從記憶體講起：很長一段時間裡，你如果是 DRAM 的生產者，你投 200 億美元的資本支出，賺回 190 億美元；景氣好的年份賺 210 億，差的年份賺 180 億。他說直到現在之前，做記憶體從來不是一個長期來說很好的生意。然後突然之間，這幾家一年各要生出 1,000 億美元的自由現金流。可是他說他們記得自己的歷史，記得自己因為蓋太多廠、被人保證「這次不一樣」而差點破產過幾次，所以資本支出保守。

![一長排幾乎等高的成對柱子代表記憶體廠長年投入與回收幾乎相抵，最右邊突然冒出一根高出許多的柱子是現在的自由現金流。](/figures/dram-decades-of-flat-returns-then-a-spike.svg)

這一段對投資判讀最有用，而它跟我自己在用的瓶頸層框架對得上。我平常提醒自己的是「供應吃緊不等於有定價權」，這裡出現的是反向的版本：這一層有定價權，是因為他們自己選擇不擴產。要判斷這種層，關鍵不在缺口多大，在這一層的人上一輪賠了多少錢——他們的資本支出紀律是從破產邊緣學來的，不會因為一兩季的現金流就鬆手。所以讀到「缺貨」這則新聞的時候，我會去翻那一層的歷史帳，而不會從缺口大小推出誰該漲。

Altman 還提了一個反直覺的配置問題。很多人想要本地推論，假設有了開放權重模型、能在自己電腦上跑，就不需要資料中心那些東西。他說從全球配置的角度看，讓每個人都把世界上有限的 DRAM 放一塊在自己電腦裡、而且只用 5% 的時間，是很糟的事；在供給這麼緊的環境裡，你要的是雲端的最高使用率。

![左邊二十格只有一格亮著，代表晶片放在自己電腦裡只用百分之五的時間；右邊幾乎格格都亮，代表雲端的高使用率。](/figures/local-inference-leaves-chips-idle.svg)

價格上他給了一個標靶。業界講一座一吉瓦（十億瓦）規模的算力，按五年總持有成本算，各家數字不同，主持人抓 700 億美元當例子。Altman 說那個數字如果從 700 億降到 200 億，大家應該開心得多，而且還是該要求每年靠更聰明的模型多榨出十倍效能。要走到 200 億，他說能源得變便宜，而從把沙子融掉到把代幣送回來這一路上疊起來的毛利，很多得被壓掉。他說如果這個成本不往下走，他會很難過。

![左邊一根高柱是現在的七百億美元，右邊一根只剩不到三分之一高的柱是他要的兩百億美元，高度差那一段標成能源與一路疊上來的毛利。](/figures/one-gigawatt-tco-from-70-to-20-billion.svg)

哪裡我還不確定，Altman 自己留了三個口子。第一個，代理團隊的規模法則，他說做 Navier-Stokes 的時候他們什麼都不懂：該給最聰明的模型嗎？給多幾份還是少幾份？跑長一點還是短一點？現在懂了一點點，還能懂得更多。第二個，AI 做 AI 研究目前只能下到「幫我找一個 5% 的算力效率改進」這種層級的指令，而「去發現一個跟 Transformer 同等級的新架構」沒人知道怎麼問。第三個最重：他說多元這個形狀是要去推的，所有這些事都是我們得去爭取的，技術可以被指向很多方向。而同一集裡他自己也說，兩家公司競爭，一家准花 1 萬美元、一家准花 10 萬美元在同一道題上，結果很清楚。限制單一模型可以多聰明這件事，要在這種壓力底下維持。

## 可以參考的資料

- 《Cheeky Pint》2026 年 10 月 29 日那集，本文的來源
- OpenAI 已發表的 Navier-Stokes 證明與那批數學成果，節目中提到的數量是七百多個證明
- 節目所稱那一週的 PHP 漏洞揭露與修補公告
- 記憶體三大廠的年報與資本支出紀錄，可在美國證券交易委員會 EDGAR 系統與各公司投資人關係頁查到
- OpenAI 的模型定價頁，可對照節目裡談的代幣計價問題

## 帶得走的一件事

**一個會自我校正的系統，靠的是裡面有東西有動機去抓你的錯。**

這集讓我把這句話想通的是主持人那個提問：能不能給模型互相競爭的動機，讓它們彼此背叛。Altman 說有希望，而他推薦這個形狀的理由不在技術——社會強韌，因為裡面有很多人互相制衡。單一的東西再聰明，錯了也沒人會告訴它。

我自己試過的一個做法：挑這週一個你一直自己當裁判的決定——換不換工作、要不要跟某個人把話說開、那筆錢要不要動——找一個人，給他的任務是找出這個決定哪裡會壞掉，不要問他覺得好不好。問「你覺得怎麼樣」會拿回一句客氣話，問「這會怎麼壞」才拿得到你自己看不到的那一面。