The economics of superintelligence

如果硅谷的預測哪怕只是接近準確，那也將迎來前所未有的動蕩。

插圖：皮特·瑞安

2025年7月26日

在歷史的大部分時間里，最穩妥的預測是事情會大致保持原樣。但有時未來會變得面目全非。硅谷的科技巨頭們表示，人類正接近這樣一個時刻，因為在短短幾年內，人工智能在所有認知任務上的表現將超過普通人類。即便你認為他們說得對的可能性不高，也能明白他們的說法值得深思。如果這真的成為現實，其影響將堪比世界經濟史上的任何事件。

自近十年前取得突破性進展以來，人工智能的能力一再驚人地超出預期。今年，OpenAI和谷歌DeepMind的大型語言模型在國際數學奧林匹克競賽中獲得金牌，這比專家們在2021年預測的時間提前了18年。這些模型正變得越來越強大，背后的推動力一方面來自科技公司之間的軍備競賽——它們都期望成為贏家通吃的那一方；另一方面來自中美之間的競爭——兩國都擔心如果屈居第二，就會遭遇系統性失敗。到2027年，訓練一個模型所用的計算資源可能會是構建GPT-4的1000倍，而GPT-4正是當今最受歡迎的聊天機器人的基礎。

這對2030年或2032年人工智能的能力意味著什么？正如我們在本周的兩篇簡報之一中所描述的，許多人擔心會出現一種地獄般的景象：配備人工智能的恐怖分子制造出殺死數十億人的生物武器，或者一個“失調”的人工智能掙脫束縛并智取人類。不難理解為什么這些尾部風險會吸引如此多的關注。然而，正如我們的第二篇簡報所解釋的，這些風險已經擠占了人們對非末日場景下人工智能所帶來的直接、可能、可預測且同樣驚人的影響的思考空間。

1700年以前，世界經濟平均每百年增長8%。任何預測接下來會發生什么的人都會顯得精神錯亂。在接下來的300年里，隨著工業革命的興起，經濟增長平均每百年達到350%。這帶來了死亡率的下降和生育率的提高。更多的人口產生了更多的想法，進而推動了更快的增長。由于需要增加人力天賦，這個循環進展緩慢。最終，財富的增加導致人們少生孩子。這提高了生活水平，年增長率穩定在約2%。

從勉強糊口到硅基時代

人工智能不存在這樣的人口限制。技術專家們承諾，它將迅速加快發現的速度。OpenAI的首席執行官山姆·奧特曼預計，人工智能明年將有能力產生“新穎的見解”。人工智能已經在幫助編寫更好的人工智能模型程序。有人說，到2028年，它們將能夠監督自身的改進。

因此，經濟增長有可能出現第二次爆發。如果計算能力在沒有人力投入的情況下帶來技術進步，并且足夠多的收益被重新投資于建造更強大的機器，財富可能會以前所未有的速度積累。長期以來，經濟學家們一直清楚自動化發現思想這一不可阻擋的數學邏輯。根據一家看漲的智庫“時代人工智能”最近的預測，一旦人工智能能夠完成30%的任務，年增長率將超過20%。

包括埃隆·馬斯克在內的忠實信徒得出結論，自我改進的人工智能將創造出超級智能。人類將能夠獲得所有可能的想法——包括制造最好的機器人、火箭和反應堆的想法。能源獲取和人類壽命將不再構成限制。經濟的唯一約束將是物理定律。

即便不走到那種極端，也能想象出人工智能令人難以置信的影響。不妨做個思維實驗，只考慮達到人類水平智能這一漸進步驟。在勞動力市場上，一項任務使用計算能力的成本會限制從事該任務的工資水平：為什么要向工人支付超過數字競爭對手的報酬呢？然而，那些技能無法被自動化且能直接與人工智能互補的少數超級明星，將獲得巨大的回報。最有可能比他們過得更好的，是與人工智能相關的資本所有者，他們將吞噬越來越大份額的經濟產出。

其他人則必須適應人工智能能力的不足以及新富階層的消費模式。在自動化和勞動力供應存在瓶頸的地方，工資可能會迅速上漲。這種被稱為“成本病”的效應可能非常強烈，以至于會限制衡量出的GDP增長，即便經濟已經發生了徹底的變化。

這種新的豐裕與短缺模式將反映在價格上。任何人工智能有助于生產的東西——比如全自動化工廠生產的商品，或者數字娛樂——其價值都將暴跌。如果你擔心被人工智能搶走工作，至少可以期待能擁有很多這樣的東西。在仍然需要人類的地方，成本病可能會顯現。轉向體力工作的知識工作者可能會發現，他們能負擔得起的嬰童照料或外出就餐次數比現在還要少。而且人類可能最終會與人工智能爭奪土地和能源。

這種經濟動蕩將反映在金融市場上。隨著哪些公司在贏家通吃的競爭中勝出或失敗變得明朗，股票價格可能會出現劇烈波動。人們會有強烈的投資欲望，既要用于生成更強大的人工智能，也要讓基礎設施和工廠的存量跟上經濟增長的步伐。與此同時，為未來儲蓄的意愿可能會下降，因為人們——尤其是儲蓄最多的富人——預期收入會大幅增加。

因此，要說服人們拿出資本進行投資，就需要更高的利率——或許高到足以讓長期資產價格下跌，盡管經濟在爆發式增長。學者們對此存在分歧，但在一些模型中，利率的上升幅度與增長率持平甚至更高。在爆發式增長的情況下，這意味著不得不以20%-30%的利率再融資債務。即使收入增長迅速的債務人也可能受到影響；那些收入與飛速增長無關的人則會遭受重創。無法或不愿利用人工智能熱潮的國家可能會面臨資本外流。任何地方都可能出現宏觀經濟不穩定，因為隨著人們揮霍預期的財富，而中央銀行沒有足夠快地加息，通貨膨脹可能會失控。

這是一個令人眩暈的思維實驗。人類能應對嗎？經濟增長以前也加速過，但工業革命時期沒有大規模的民主制度；歷史上最著名的機器仇恨者盧德分子沒有投票權。即使平均工資飆升，更高的不平等也可能引發對再分配的需求。國家也將擁有更強大的工具來監控和操縱民眾。因此，政治局勢將動蕩不安。各國政府將不得不重新思考從稅基到教育再到公民權利保護的一切事務。

盡管如此，超級智能的崛起仍應引發人們的驚嘆。Anthropic的老板達里奧·阿莫迪本周告訴《經濟學人》，他相信人工智能將幫助治療曾經的不治之癥。如果經濟再次加速，看待它的方式應該是將其視為一個漫長奇跡的延續，而這個奇跡之所以成為可能，只是因為人們擁抱了變革。人類可能會發現自己的智能被超越，但仍然需要智慧。