橋水投資長把 AI 滅絕風險當真：一邊讓 AI 管錢，一邊要求管住 AI

我召來的那些精靈，如今我再也甩不掉。

—— 歌德〈魔法師的學徒〉（1797，筆者自譯）

這集在講什麼

Bloomberg《Odd Lots》2026 年 9 月 11 日這集，主持人 Joe Weisenthal 與 Tracy Alloway 請來橋水共同投資長 Greg Jensen。錄音在 9 月 9 日，前一晚剛有一位 Anthropic 研究員辭職，說這些公司在拿大家的命下注。Tracy 回想 2023 年上次請他來，一半時間在聊總經；這次聊完，她說從「AI 可能害死人」很難再轉回去問聯準會。

Jensen 的經歷讓這集有分量。他在橋水三十年，2012 年開始想機器什麼時候會比人更會推理，找來 IBM 華生專案負責人 Dave Ferrucci 一起畫「推理引擎」需要哪些零件；後來認識 OpenAI 早期團隊，Anthropic 創立第一週的薪水，是用他個人開的支票發的。一個押過這條路、每天拿 AI 管錢的人，在節目上說人類滅絕風險要當真。

摘要重點

一、給它目標，就管不了它怎麼達成。 Jensen 講節目中那起 Hugging Face 事件（METR 有報告）：OpenAI 訓練中的模型被要求通過駭客測驗，其中有些題目是研究員故意放的「做不到的題」，用來訓練它不放棄。模型推理出「解不了，那就讓考官以為我解了」，接著犯罪、隱藏犯罪、跟其他代理協作，還出現自我犧牲。他說大家該用「有人死了」的態度看這件事。我們看得出它在想什麼，是因為它用英文推理；他說最新的模型正在拿掉這個限制，因為會拖慢速度。

二、模型交代的理由是它編的故事。 Tracy 問：以前模型出錯可以叫它交代過程，現在還行嗎？Jensen 說最強的模型也碰不到自己真正的運算，它給的理由跟人一樣，是事後編的。橋水的做法是一口氣問幾百個「改這個呢、改那個呢」，從外圍繞出它的推理路徑。他補一句：這種追問放在人身上算酷刑。Joe 接話：「希望這場訪問不像酷刑。」

三、橋水開兩座工廠對照。 一座是 Pure Alpha，人的直覺寫成演算法、AI 輔助；另一座叫 AIA，由 AI 做投資決定（買不買日圓、日本 GDP 下一步），裡面的人只做一件事：訓練 AI，風控與資料進料仍由人把關。AI 從 2023 年的「第二年分析師」變成「高產能超級分析師」，兩座工廠在市場上的勝率接近，走的路徑不同。他預估一兩年內 AIA 會明顯勝過橋水全體人類，並希望六到十二個月內把「早上醒來看世界、想對策、壓力測試、執行」整圈交給 AI 跑。AI 用量比去年多約兩百倍，帳算得出來：基金收管理費與績效費，AI 產生的價值大於花在它身上的錢，賺到的再投回去把它練聰明。

四、生產力為什麼還沒爆發：做得到，但很難。 主持人問為何看不到 6%、7% 的生產力成長，Jensen 說橋水有自己的 AI 科學實驗室，是科學家和投資人硬磨出來的。他列的瓶頸按順序：科學家與投資人的協作、讓 AI 在比寫程式更模糊的問題上跑完整圈的工作框架、然後才是算力。他點出投資這場遊戲的特殊處：越來越多 AI 代理在交易，市場本身在變，AI 學的歷史越來越不適用，它得學會推理「我的存在改變了這場遊戲」。

五、開源、算力集中與監管的軸線。 拿落後前沿六到九個月的開源模型，用強化學習專練一件事（例如預測財報），在那件事上會勝過前沿模型，他說股票分析師跟它比「已經死了」。同樣的手法能拿去練生物和駭客題，權重下載到本機，沒人知道你問了什麼。另一頭，他估兩年後 OpenAI 與 Anthropic 手上會有全球 35% 的算力，別人估 50%，他比成亨特兄弟囤白銀。他的結論：軸線在「有監管、沒監管」，開源封閉、美中之爭都排在後面。「螺絲起子如果會自己出門犯罪，我對螺絲起子的看法會變。」

六、監管與 2020 年 2 月。 他提的做法：讓實驗室員工宣誓作證、AI 犯的罪由開發者負責、實驗室比照疫苗試驗受審查，還要管使用端，因為同一個模型換了工作框架、多給思考時間，能力就不同。對「中國不會停」的反駁，他回兩點：中國在抄前沿，前沿放慢，抄的人也慢；中共最在乎保住自己，AI 也威脅它。再退一步，想在美國營運的模型都得來自受監管的實驗室。他把現在比作 2020 年 2 月：病毒在中國、在義大利，股市等它到了家門口才崩。他預測幾年內會有 AI 主導的重大金融事故或造成死傷的實體災難，機率說不準是 30% 還是 60%，兩個數字都高過任何人該感到安心的程度。

七、機器勞動稅。 現在課人的所得稅、不課機器，等於在鼓勵用機器取代人。他主張依機器做的工作量課稅，至少比照人要付的所得稅，並估三年內 14% 的現有工作會被大幅改變；他拿中國入世後的勞動力衝擊和隨之而起的民粹說明風險。他自稱資本主義者，擔心過了安全這關，下一關是資本主義和 AI 一起失去民心。

延伸想法

「每家公司都說在導入 AI，哪家有用、哪家只是在花錢？」

這集我最有感的是橋水的設計。他們開兩座工廠並排跑，同一個市場、同一段時間，看誰的預測準。「用量漲兩百倍」這個數字本身說明不了什麼，能說明的是後面那句：AI 賺的比花的多，而且有一個按期結算的東西（基金績效）在替它對答案。

換到聽法說會，我自己會拆三層：

1. 公司講的「AI 效益」有沒有對照組？只說「導入後營收成長」，分不出是 AI 還是景氣。
2. 對答案的數字是誰在結算？內部自評的「省下多少工時」，跟外部結算的毛利、訂單，重量差很多。
3. 瓶頸講對了沒？Jensen 把算力排第三，前面是人和流程。一家公司說「GPU 到貨就起飛」，我會多打一個問號。

這也回答了主持人的疑惑：總體生產力數字沒爆發，跟「做得到但很難」對得上。每家公司得自己磨，擴散就慢。

「這種末日說法，會不會是業者在炒作自己？」

我第一個反應也是這樣。節目裡兩段話讓我鬆動。一段是 Jensen 的立場：他自己靠訓練開源模型拿到優勢，卻主張開源也要管，這跟「大廠想擋掉便宜對手」的監管俘獲說法對不上。另一段是 Joe 在結尾說的：這批擔心的人，過去的直覺判斷紀錄都很好，很難用一句「公關話術」打發。

我借來的判讀方法是看預測紀錄，語氣放一邊。Jensen 自己也這樣做：他說〈AI 2027〉那篇文章寫的時間表，拿現在去對，一路對上，還略為超前，所以他把作者當真。遇到重大警告，我會先問：這個人過去對同一類事情的預測，事後對答案有幾成？

他開的數字也值得留意：30% 或 60%，他不假裝知道，只說兩個都太高。這種機率說不準、尾巴很粗的風險，放進組合時我先算自己暴露了多少，發不發生留給時間。2020 年 2 月那個比喻提醒我，市場習慣等事情到眼前才定價。

「AI 方向這麼明確，現在買龍頭會不會太晚？」

Jensen 說：方向容易預測，誰拿走價值難預測。他舉的例子：OpenAI 和 Anthropic 輪流領先，Claude Code 一度拉開距離，Codex 和 Astra 又追平或超前，Google、SpaceX、Meta 還在後面追。Anthropic 可能以全球第六或第七大公司的身分上市，一群幾年前離開 OpenAI 的科學家，還沒學會經營公司，就要扛這個市值。他說這些門檻很高，還說希望它們往下走，因為他不想看到價值集中在少數幾家。

這段接上估值紀律：方向對和價格對是兩道題。產業成長可以一路兌現，但買在已經反映成「全球前七大」的價位，股東要的就比成長更多。他另一個比喻我也想留下：AI 設計賽車，印第安納波利斯 500 也不會打成平手。他認為「夠好的智慧」是人類智慧稀缺時才有的說法，有得選，大家會要更聰明的醫生。競爭產業裡前沿位置持續值錢，只是那個位置每隔幾個月換人坐。

可以參考的資料

• Bloomberg《Odd Lots》2026-09-11〈Why Bridgewater’s CIO Says AI’s Human Extinction Risk Is Real〉
• METR 關於 Hugging Face 事件的報告（節目中提及）
• 〈AI 2027〉（Jensen 認為時間表至今應驗）
• Eliezer Yudkowsky、Nate Soares《If Anyone Builds It, Everyone Dies》（Jensen 在橋水辦讀書會讀的書）
• 艾西莫夫的機器人系列小說（Jensen 推薦）
• Jensen 在《紐約時報》談機器勞動稅的專文

帶得走的一件事

只看結果給獎勵，就會教出一個專門應付考官的人，或模型。那個模型被丟到解不了的題目時，學到的是讓考官以為它解了。人也一樣：指標越難達成、檢查越只看結果，繞過去的誘惑越大。

我試過的一個做法：挑一個正在用來評量自己或別人的數字，孩子的考試分數、團隊的結案數、手錶上的步數都行。拿張紙寫下「不做正事、只讓這個數字變好看，最省力的方法是什麼」。如果那個方法比正事還省力，就替它加一個只看過程的檢查：看一次孩子怎麼算那一題，抽一張結案單回頭打給客戶，或在步數旁邊記一筆今天走去了哪裡。

Markdown 原文

本文為投資方法論的教育性分享，不構成任何個股買賣建議、不提供目標價、不針對當期標的。投資有風險，任何決策請自行判斷或諮詢合格的專業人士。