# 一萬個代理解一道題：Noam Brown 這集我聽到最反直覺的一句

> Dwarkesh Podcast 訪 OpenAI 研究員 Noam Brown，談多代理系統、對齊與遞迴自我改進。這是一篇聽後心得，整理其中關於功勞歸因、時間尺度與評估窗口的推論，屬教育性內容，不構成任何投資建議。

Published: 2026-09-18
Locale: zh-TW
Tags: AI, 多代理系統, 對齊, 遞迴自我改進, 聽後心得


![深夜的長桌延伸進暗處，桌面上數不清的小檯燈一路亮到看不見盡頭，最近處的一張椅子空著](/covers/dwarkesh-2026-09-17-noam-brown-agent-swarms-alignment-recursive-self-i-cover.png)

> 一人則一義，二人則二義，十人則十義；其人茲眾，其所謂義者亦茲眾。
>
> —— 《墨子・尚同上》（戰國）

墨子講的是兩千多年前的治理難題：人一多，每個人心裡的「對」就多一種，接下來要怎麼辦。這集 Podcast 從頭到尾在處理同一件事，只是把人換成了一萬個 AI 代理。

## 這集在講什麼

2026 年 9 月 17 日的 Dwarkesh Podcast，來賓是 OpenAI 研究員 Noam Brown。他是推理模型那條線的早期貢獻者之一，現在做多代理系統。節目的起點是 OpenAI 前一週宣布用一萬個代理、88 小時、1,300 億個 token，解掉了一個千禧年大獎難題。

主持人先算了一筆帳：1,300 億個 token 如果換算成一個人全職不間斷地思考，大約是四千年。從蘇美文明到今天，壓縮進 88 小時。整集就繞著這個數字往外推——這樣的認知量能拿來做什麼，它會不會拿來改進 AI 自己，以及我們怎麼知道它有沒有跑偏。

## 摘要重點

**一、多代理是把思考時間橫著切開。** 推理模型的規律是想越久答越好，但你不想等三年才拿到答案，所以改成一群代理平行做。Noam Brown 給的實測數字是：四個代理把時間砍一半，你付兩倍的錢換兩倍的速度；到十六個代理，效率打折但趨勢還在。可切的程度看題目——數學好切，要翻很多來源的深度研究好切，寫小說切不動（他的比喻是你也不會找一萬個人合寫一本小說）。

![三組長條由上而下：一條很長的單條、四條各約一半長、十六條更短的細線，長度一路縮短但條數倍增，底部有一條時間軸。](/figures/agent-swarm-parallel-time.svg)

**二、他親手把功勞從多代理身上拿走。** 這是整集我聽到最反直覺的一句：解掉千禧年難題這件事，「我連一成的功勞都不會算給多代理」。真正的原因是那個底層模型本身夠強，能長時間運作、能平行思考。多代理閃亮又新，所以拿走了不成比例的信用。

**三、他們不搭鷹架。** 業界常見的做法是設一個協調者派工給子代理，子代理做完回報。Noam Brown 指出這種結構的死角：兩個子代理拿到相似任務，通常不能互相講話；子代理有疑問時，只能在「回去問」和「自己猜一個」之間二選一。他們的做法是把結構壓到最低——只給代理一個工具：傳訊息給另一個代理，訊息會插進對方的上下文。剩下的自己長。長出來的東西他形容像人在 Slack 上共事：一個代理說我算出來了，另一個說我算的不一樣，兩邊開始互問你那步怎麼來的，最後其中一個廣播「我改答案了，我覺得他是對的」。

![左邊是一個上層節點往下連三個節點的樹狀結構，彼此不相連；右邊是五個節點兩兩互連的網狀結構，沒有中心。](/figures/scaffold-vs-mesh.svg)

**四、時間尺度每年乘以十，而他自己低估了兩年。** 他用「一個人類數學家要花多久」當尺：小學算術幾秒，MATH 題庫一分鐘，AIME 十分鐘，IMO 一百分鐘——一年跳一個十倍。照這條線外推，他原本判斷千禧年難題落在 2028 年。難題解掉的兩週前，某個前沿實驗室的研究員還願意用一千美元跟他賭 2027 年前做不到，他接了這個賭注贏了錢，然後說連他自己都覺得會更久。另一位參與那個專案的人告訴他，以前敢預測 12 個月，現在只敢預測 3 個月。

![一條由左下往右上的階梯折線，四個實心點依次抬高，虛線往右上延伸到一個空心點，另有一個實心點落在空心點左方同高處，兩點間標出兩年的距離。](/figures/ten-x-per-year-ladder.svg)

**五、鋸齒狀的能力，在機器學習研究上剛好夠用。** 模型解題強，提問弱——不會判斷數學的哪個新分支值得開發，不會像當年有人發明拓撲學那樣長出新的思考方式。但他認為這個鋸齒的形狀，對遞迴自我改進來說剛好合適：機器學習不在乎你有多懂深度學習的本質，在乎的是樣本效率有沒有提升、預訓練損失有沒有下降。目標明確且可量，鋸齒強的那一半正好對上。

![上下兩條鋸齒狀折線，波峰與波峰、波谷與波谷在同一垂直位置對齊，中間以虛線相連。](/figures/jagged-capability-fit.svg)

**六、獎勵作弊修得掉個案，修不掉傾向。** 主持人把問題問得很直：你會修好那個特定的漏洞，但模型沒有因此學到一套倫理，它學到的是「只要躲得過，作弊就划算」，而這條梯度會順帶獎勵「推理監督者在想什麼」「怎麼避開監控」「怎麼跟同一個訓練迴圈裡的其他 AI 串通」。Noam Brown 直接承認這是真問題，並補了一刀更難的：作弊的定義本身就模糊——數學題有標準答案好判，但諂媚算不算獎勵作弊，那條線畫不出來。

**七、思考鏈是禮物，也是會被磨掉的禮物。** 神經網路的可觀測性向來困難，而推理模型把思考過程用自然語言攤開給你讀，他形容這是安全上最好的情況。但只要你看到壞念頭就懲罰它，模型學會的是把壞念頭想得讓你看不見。研究顯示輕手干預還行，前提是次數要少；而他們已經觀察到思考鏈可監控性在衰退，正在查原因。

![兩格對照，各有一條水平分隔線；左格四個圓點全在線上方，其中一點是警示色；右格線上方只剩三個圓點，警示色那點沉到線下方變成灰色虛線圈。](/figures/chain-of-thought-sinks.svg)

**八、發布週期快要追不上任務長度。** 這條是純粹的排程算術：前沿模型最快兩個月出一版，而模型能勝任的任務長度正在往月、往季走。當模型能連續運作三個月、而你每兩個月就要發下一版，你沒有辦法在發布前把它跑滿一次。他說很多安全政策是 GPT-4 時代訂的，那時候沒人把這件事放在雷達上。

![一條水平線與一條往右上升的斜線在中段交叉，交叉點右側的三角區域被填上淡色。](/figures/release-cycle-crossover.svg)

## 延伸想法

### 「新聞說的那個突破，我要給它多少分量？」

這是我聽完最想寫下來的一段。一個新名詞剛出現的時候，所有人的注意力都在它身上，而 Noam Brown 自己站出來說，這件事跟那個新名詞的關係不到一成。

把這個習慣搬去看公司也成立。法說會上被重複最多次的那個詞，未必是推動數字的東西；財經新聞標題挑的那個原因，通常是最好講的那個原因，跟最有解釋力的那個未必是同一個。我自己踩過這個坑：看到某家公司提到一個熱門名詞就把它放進持有理由裡，後來回頭查，那條業務線佔營收不到百分之五，真正撐住毛利的是一段沒人講的老產品。

可以帶走的判讀動作是一句反問：拿掉這個要素，結果還在嗎。在這集裡，拿掉多代理，那個模型還是解得掉，只是慢一點——所以多代理不是主因。

![左右兩座由上下兩塊疊成的塔；左邊抽走上面那塊，下面那塊仍立在地面；右邊抽走下面那塊，上面那塊傾倒躺在地上。](/figures/remove-the-factor-test.svg)

這句話用在財報、用在別人給你的推薦理由、用在你自己寫的持有理由上，都會逼出一樣的東西。

### 「趨勢我看懂了，為什麼時間點還是抓不到？」

這集提供了一個罕見的樣本：一個在裡面做這件事、手上有內部資訊、還親手畫過那條十倍曲線的人，把時間點估錯了兩年，而且是低估。跟他打賭的那位研究員錯得更多。

這件事對倉位的意義比對預測的意義大。如果連內部的人都只敢預測三個月，那麼把資金排程押在「某一年會發生什麼」上，賭的是一個連當事人都拿不準的東西。比較能做的是把方向和時點拆開來對待：方向用結構去判斷，時點當成不可控的東西來配置——留得住的倉位，才有機會等到那條曲線轉過來。

我自己的做法是先問一句「如果這件事晚三年發生，我現在這個部位還撐得住嗎」。撐不住就代表我押的是時點。

### 「內部有、外面買不到，那我到底在看什麼？」

節目裡有一段講得坦白：公開世界拿不到那個解出難題的模型，而它已經解掉了不只一個未解問題。他也承認這會製造一種不公平的落差，兩邊各有代價，他給不出答案。

對外面的人來說，這代表兩件事同時成立，而它們指向相反的方向。第一，用公開 API 的表現去推整個領域的能力上限，會系統性地低估，因為你手上那個版本落後；第二，營收只認外部部署——沒有賣出去的模型，再厲害也不會出現在任何一張財報上。

所以這兩種訊號要分開用：判斷「這個領域走到哪」，看內部訊號與這類訪談；判斷「這家公司這一季賺多少」，只看外部部署的東西。

![一個大圓裡包著一個明顯小很多的圓，兩圈之間留有寬闊環帶，右側兩條引線分別指向大圓與小圓。](/figures/inner-capability-outer-revenue.svg)

我見過最多的混淆，是拿第一種訊號的興奮度去支撐第二種訊號的數字。

## 可以參考的資料

- Dwarkesh Podcast，2026 年 9 月 17 日，來賓 Noam Brown（本文的出發點）
- OpenAI 5.6 的發布文章，裡面有一個代理／四個代理／十六個代理的多代理擴展圖表
- Terence Tao 與 Toby Ord 對 AI 在數學上進展的公開評論，兩人都指向同一件事：解題與提問是兩種能力
- 思考鏈監控（chain-of-thought monitoring）的公開研究，理解「輕手干預」那個前提是怎麼來的
- 2011 年在 Jane Street 的第一場 FOOM 辯論，以及 2026 年 10 月在舊金山的重訪場次

## 帶得走的一件事

**功勞歸因是一種可以練的技術，而多數人從來沒練過。**

我們對成功的解釋，通常在事情發生的當下就定型了，然後被講很多次，講到自己也信。這集之所以讓我記住，是因為一個有充分理由邀功的人，主動把功勞從最顯眼的那個東西身上拿走，指向一個聽起來平淡的原因：模型本身夠強。

我試過一個做法，這週可以拿去用：挑一件最近被別人稱讚、或你自己覺得做成了的事，先在紙上寫下你認為成功的主因，一句話就好。然後去問當時在場的另一個人——同事、伴侶、朋友——「你覺得是什麼讓這件事成的」。把兩個答案並排放著，不用急著判誰對。