AI 什麼時候能自己改進自己？三位一線研究員給出從一年到十年的答案

如果說我看得比別人更遠，那是因為我站在巨人的肩膀上。

—— 牛頓致虎克書信（1676，筆者自譯）

這集在講什麼

2026-09-11 這集 Dwarkesh Podcast，主持人找來三位在相對開放的實驗室工作的研究員：Zyphra 技術長 Beren Millidge、Thinking Machines 首席科學家 John Schulman（OpenAI 共同創辦人，帶過催生 ChatGPT 的人類回饋強化學習），以及 Baseten 模型訓練負責人 Charlie O’Neill。

題目只有一個：AI 離「自己改進自己」還有多遠。牛頓那句話講的是知識能一層層疊上去，這集三個人整晚在吵的，是 AI 能不能站上自己的肩膀。

摘要重點

一、每次都喊「這就是 AGI」，一個月後又覺得它笨

一位來賓描述一個一再重演的循環：新模型出來，大家驚嘆「就是它了」，用了一個月開始覺得它笨。原因在短板。模型寫程式的量可以是人的好幾倍，研究者的產出卻沒有變成一百倍，因為工作卡在模型判斷力弱、檢查不了自己的地方。這個循環還會轉幾輪，他說難以預測。

另一位來賓拿西洋棋程式的積分做對照：四十年來積分直線上升，可是跨過人類區間那一段，看起來像從「人類總是贏」一夜跳到「人類從不贏」。他認為我們離那個交叉點不遠，要讓 2036 年的世界還維持原樣，技術面得在交叉前剛好停住，他覺得監管踩煞車的可能還比較高。

二、目標寫得清楚的研究，AI 會快很多；目標本身還得人來定

一位來賓舉了具體例子：當年 Kaplan 的縮放定律拿中途檢查點做分析，沒考慮學習率退火，結論因此偏掉。如果那時有 AI 花大量算力反覆推敲，這個錯早一兩年就會被抓出來。他估目標明確時研究可以快十倍，但「多想」只能用手上已有的資訊更新判斷，換不來一個正確的目標。

Schulman 補了自己的經驗：OpenAI 早期他認為光靠預測下一個字，重要的訊號佔損失的比例太小，會被雜訊淹沒，學不到智慧——後來證明行得通。這個領域最重要的進展，常來自「沒有理由預期」的泛化。他認為人類最後守住的工作，是決定模型該怎麼表現、什麼叫幫得上忙；後訓練團隊需要那麼多人，就是因為每個領域都得有人想清楚這件事。

三、蒸餾讓前沿實驗室難以通吃

模型供應商為什麼沒有集中成一兩家？有來賓的答案是蒸餾：強化學習學到的行為只佔少量資訊，拿到示範軌跡就容易複製。難的是提示詞的分布，得知道使用者在問什麼。節目提到有些中國公司透過代理服務，收集使用者用美國前沿模型寫程式的紀錄，這批資料給了最貼近真實的提示分布。

有一段反直覺的對話：想做一個「好政客」模型，蒸餾者比前沿實驗室輕鬆，因為前沿模型已經會了，叫它生十億個變體就好；第一個做出來的人，得自己去弄到政客每天在做什麼的資料。另一位來賓把訓練環境分成「難度」和「真實度」兩軸：難題好造也好驗證，天真的蒸餾只追得上這一軸，基準分數對上了，多輪來回、目標互相衝突的真實情境裡，手感還是差一截。

四、做完就留下來的工作，和每天都要重學的工作

一位來賓的分法：遞迴自我改進屬於累積型。注意力機制、混合專家、新的強化學習演算法，發現一次就寫進訓練流程，下一代直接呼叫，不必重新發現；理論上一個長度不到一百萬詞元的 Python 檔，就能從頭訓出會自我改進的模型。律師事務所的助理屬於另一種：誰跟誰的關係、做事的潛規則、資料放在哪，天天在變。有人接了一句：「遞迴自我改進偏偏比當律師助理容易，太可惜了。」

五、持續學習卡在「一點一點學就會忘」

規模夠大、批次夠大時，把部署資料倒回中期訓練、再建新環境，這個外迴圈行得通。問題出在放大到單一客戶：幾百次小更新之後，模型出現災難性遺忘，通用能力退化。強化學習每次只動一點點，所以不太傷模型，也因此塞不進「這家事務所這樣做事」這種明確知識。有來賓指出容量夠用，卡的是方法：同樣大小的模型把全部資料從頭訓一次，結果會更好，只是貴。

另一個卡點是誘因。企業不想讓模型供應商從自己的部署資料學走優勢，短期看到的會是外掛模組（像 LoRA、壓縮過的快取），底層模型不動。Cursor 是一個例子：用線上強化學習每五小時更新一次，自家基準有進步才上線，沒進步就丟掉。

六、強化學習一回合只學到一個位元，為什麼還這麼有用

Beren 的解釋有兩層。第一，大量功勞在中期訓練：先用合成的推理資料把模型帶到離終點約八成的位置，強化學習負責最後的微調。第二，監督式學習得逐字模仿別人的推理過程，吸進太多無關的位元；強化學習只給「對或錯」那一個位元，訊號沒被雜訊蓋掉。

另一位來賓補了一個畫面：個別任務上的進步像相變，某個試算表任務的通過率從 0.5% 跳到 90%，成千上萬個跳躍平均起來，才是那條平滑的曲線。

節目裡還提到一個小插曲：有人把只用 1930 年以前資料訓練的模型，拿現代寫程式代理的資料微調，結果在程式基準上贏過 Claude 3 Opus。一個沒見過程式的模型，看夠示範就追上來了。

七、時間表：從一年到十年

像遠端員工一樣接白領工作一個月：有人說一年左右，有人說全面要三年，但八九成會先到，因為企業會把流程改得讓 AI 好用。AI 研究員產出變十倍：答案有兩年，也有五到十年。在所有電腦上能做的工作都勝過頂尖專家：三到四年、五到十年都有人說。

主持人講了一個親身例子：今年報稅，他叫 Codex 把會計師要的資料全部點進去下載、整理好寄出，一次就對。也有人舉了 AI 做不來的事：工作上需要對人大小聲、硬逼對方交東西，模型太客氣了。

延伸想法

新模型一發表就被說成 AGI，一個月後又說不行，該信哪一邊？

我自己每次發表會後都會被社群兩派吵到頭暈。聽完這集，我覺得兩派在看同一條曲線的不同截面。

第一層，發表會亮的分數多半落在「難度」那一軸。基準測試量的是好驗證的難題，使用者一個月後抱怨的，是「真實度」那一軸：多輪來回、需求改來改去、沒人給標準答案。兩軸各走各的，所以驚艷和失望可以同時是對的。

第二層，我把判斷的單位換成「最弱的那一環」。節目裡講得清楚，研究者產出沒變成一百倍，卡在模型檢查不了自己的地方。現在我看一次發表，會先找短板有沒有動：能連續跑幾步實驗不崩潰、能不能自己抓出錯。這比排行榜名次更貼近瓶頸本身。

第三層，棋力曲線提醒我，「沒什麼大不了」和「突然全變了」可以落在同一條直線上。每場發表會的情緒是雜音，那條斜率是結構。我的做法是每次發表記一行：短板動了沒、動了多少，三個月後回頭對答案。這方法不一定對，但至少讓我少被標題帶著走。

前沿實驗室那麼強，會不會最後贏家通吃？

投資 AI 的朋友常問我這題。這集給了一個拆法：把一家公司的領先拆成「好複製的」和「難複製的」兩段。

好複製的，是強化學習練出來的行為。它只佔少量資訊，示範軌跡一流出去，別人就學得走；持續學習也擋不住，對手可以每天跟著蒸餾。前沿實驗室向資料公司買的資料，別人也買得到。

難複製的，是真實的提示分布和部署紀錄。蒸餾者靠代理服務拿到真實分布，就追得很近；只拿好驗證的題目去蒸餾，分數追上、手感追不上。再加上幾位來賓都說未來幾年仍被算力卡住，而算力要花錢排隊。

我會把這套拆法用在任何「技術領先」的故事上：先問領先的那一段是幾個位元，還是一整條別人拿不到的資料流。前者會被蒸餾填平，後者才是瓶頸層。

這只是我聽完的推論，節目沒有點名任何公司誰贏誰輸。

可以參考的資料

• Dwarkesh Podcast〈AI researchers debate how close we are to recursive self-improvement〉（2026-09-11）
• Kaplan 等人〈Scaling Laws for Neural Language Models〉（2020）——節目中被拿來舉例的縮放定律論文
• Hoffmann 等人〈Training Compute-Optimal Large Language Models〉（2022，Chinchilla 論文）
• Hans Moravec《Mind Children》（1988）——摩拉維克悖論的出處

帶得走的一件事

一件事做完，下一次是從零開始，還是從這裡開始？能留下來的進步才會一層層疊上去。節目裡那個不到一百萬詞元的 Python 檔就是這個意思：前人每個發現都寫進去，下一代直接呼叫，不必重新發現。

我試過的一個做法：找一件這個月做過兩次以上、每次都要重新摸索的事，像報帳、訂機票、幫長輩設定手機。花二十分鐘把步驟寫成一頁，存在下次找得到的地方。下一次照著做，做完在旁邊補一行：這次哪裡跟上次不一樣。

Markdown 原文

本文為投資方法論的教育性分享，不構成任何個股買賣建議、不提供目標價、不針對當期標的。投資有風險，任何決策請自行判斷或諮詢合格的專業人士。