奇點未至，歷史已終

視界之內的神諭

曾可維 · November 6, 2026

序章　末日前七天

1960 年 11 月 4 日，《科學》（Science）刊出一篇論文，標題像個玩笑：〈末日：西元 2026 年 11 月 13 日，星期五〉。作者是控制論先驅馮・佛斯特（Heinz von Foerster）和兩位同事。他們拿兩千年來的世界人口估計擬合出一條曲線，發現它長得比指數還快：倍增的時間本身越縮越短。這是一條雙曲線，到了 2026.87 年就會趨近於無窮。

寫下這段話的今天是 2026 年 11 月 6 日，離那個星期五還有七天。

雙曲線來自成長的自我正回饋：人越多，點子越多；點子越多，產出越多；產出越多，養得活的人就越多。Michael Kremer 在 1993 年把這個機制寫成模型：人類歷史的大部分時間裡，人口成長率和人口本身成正比。指數只是越多越快；雙曲線則是越多就快得越不成比例，在有限的時間內抵達無窮。

人口當然不會在那天變成無窮大。全球人口成長率在 1960 年代見頂，之後一路下滑：經濟條件變好之後，人往往選擇減少生育，正回饋在「人」這個節點斷開。

可是雙曲線沒有死透。智能的生產只需要 GPU 不用子宮，成本是算力與電費；每一代更聰明的智能模型，都讓下一代來得更快。生育斷開的迴圈，矽晶片接了回去。從這角度來看，馮・佛斯特沒有算錯，只是押錯了對象。

奇點不是一個要等待的日子，而是一道視界。人類恐怕已經落入 AGI 奇點的捕獲範圍，從裡面看，每一條向外的路都彎回裡面。雖然我們人類離奇點還有一段路，卻已經在視界之內；在這裡，所有的未來都通往同個無法避免的終點。事情照樣發生，只是歷史終將不再以人類為主詞。

第一章　懺悔錄：一個奇點主義者的十年後驗

錯的是載體，對的是律法。

我信奇點超過十年了。說「信」不算誇張：我自己的部落格叫「凝視奇點的物理學徒」，網域是 physics2045，那個年份出自庫茲威爾的《奇點臨近》。可是我必須懺悔：這十年的大半時間之中，我在框架上是信徒，卻在時間軸上是異端。

早在大學時期，我就是虔誠的奇點人。2016 年，靠著中研院張銘顯老師的推薦信，我到新加坡量子技術中心（CQT），在離子阱實驗室實習；同一年，以台大科幻社前社長的身分在中華科幻學會演講，把庫茲威爾的 2029 年 AGI 當成科幻素材來談，也曾在期末社員大會上把他的紀錄片 Transcendent Man 當作科幻影片播放。實驗室和科幻社的經歷在同一年，我卻把它們視作兩件獨立的事：一個是親手調雷射的現實，另一個是拿來說故事的遙遠未來。

後來我留在那間實驗室念博士，用 Yb-171 離子的振動態（也就是聲子）儲存量子資訊，做量子機器學習。主流做法用自旋；振動態比自旋脆弱，理論上卻有無限的維度，實際上只能控制不到十個。這種工作讓我養成一種直覺：硬體很慢，實驗距離理論上限很遠。2020 年新加坡實施阻斷措施，實驗室從三月底關到六月，幾個月系統沒有冷氣、缺乏日常維護。重啟之後，光是幾十微米的對準就反覆調了好幾週；兩台高功率雷射同時出現問題，一台修好了，另一台連原廠工程師都沒辦法，最終只能報銷。

我就是帶著這種直覺看奇點的。直到 2020 年代初，自己的判斷仍然是：框架是對的，時間軸卻樂觀到近乎瘋狂。我甚至能指出庫茲威爾錯在哪裡：他押注的奈米機器人遠遠落後，GNR（基因、奈米科技、機器人）三條路線沒有一條在他估計的時間線上。2022 年 ChatGPT 問世，我當時沒把它當成 AGI 的典範。2024 年讀《奇點更加臨近》，我擔心的是他那樂觀到不可思議的輝格史觀，還寫下：如果最後勝出的是生物增強而不是意識上傳，奇點至少要延後十年，「一級文明推遲到 21 世紀末葉都是可能的」。

時間快轉到 2026 年，庫茲威爾的 2045 奇點之年，如今成了保守的時間線。他把「機器通過圖靈測試」押在 2029 年；2025 年 3 月，一份預先註冊的三方圖靈測試報告放上 arXiv，結果顯示，照指示扮演人類的 GPT-4.5，有 73% 的機率被判定為「人」，比同場的真人還更像人。里程碑提前四年兌現。今年五月，在生活記事裡借《奇愛博士》的副標，寫下「我如何停止恐懼並愛上 AI」：幾個月之內，我從擔心被取代，變成每天同時叫好幾個代理跑任務。

2020 年我在部落格裡寫過庫茲威爾的一個故事：人類基因組計畫做了七年只完成 1%，一線科學家估計還要七百年；庫茲威爾說，照指數算，已經做完一半了。我當時只把它當成一則漂亮的寓言。直到今年十月，翻完 OpenAI 一口氣公開的大批證明，數學、資訊科學都有，偏偏沒有一篇以密碼學為題。1942 年，蘇聯物理學家 Georgy Flerov 透過期刊上消失的核分裂論文，推斷美國在偷偷造原子彈。密碼學底層押的是「有些問題就是難」，OpenAI 在密碼學上的那片空白，讓我覺得，這個賭注可能開始鬆動了，我可能就是故事裡看著 1% 說還要七百年的那票人。

用貝氏的語言說，我的先驗錯在線性的直覺，每一次「意外」都是同一個訊號在重播。這份直覺來自那台報銷的雷射、那幾週的微米對準；拿硬體的慢去估計一條軟體的指數曲線，難怪一度相信 ECDSA 撐得到 2035 年。奈米機器人還沒來，加速回報定律卻在資訊的維度上一天也沒違約，奇點可能誕生於矩陣乘法。

第二章　論紀元：歷史從哪一年重新起算

亂紀元裡，最先死去的是曆法。

每個文明都需要元年，偉大的反烏托邦也曾偷偷改過曆法。

《駭客任務》裡，機器讓人類永遠活在 1999 年，史密斯探員說那是「你們文明的巔峰」。赫胥黎（Aldous Huxley）的《美麗新世界》讓歷史從福特 T 型車問世的 1908 年重新起算，紀年寫作 A.F.（After Ford）。十字架削去頂端，成了 T。

真實的歷史也曾如此。1793 年秋天，法國國民公會通過共和曆，把元年的第一天定在共和國的第一天：1792 年 9 月 22 日。十二個月依巴黎的天候與農事重新命名，有霧月、霜月、熱月、果月；一週改成十天，休息日由星期日換成第十天，一天也一度要改成十小時。新曆通過時，元年早就過完了，它是回頭追認的。這部曆法用了十二年，拿破崙稱帝後下令廢止，1806 年 1 月 1 日起恢復舊曆。

我曾以為我們這一代的元年是 2008：金融海嘯和中本聰（Satoshi Nakamoto）發布比特幣白皮書的那一年。比特幣的創世區塊甚至自帶紀年宣言：2009 年 1 月 3 日，它把當天《泰晤士報》報導銀行第二輪紓困的頭條，刻進了第一個區塊。那是貨幣的紀元。

可要是學國民公會回頭追認，我會把元年的第一天定在 2022 年 11 月 30 日，ChatGPT 上線那天。

在劉慈欣的三體世界裡，三顆太陽的運行沒有封閉解，曆法失效，文明只能脫水等待。亂紀元可怕，是因為可預測的視界縮得比規劃週期還短。

亂紀元的「不可預測」，其實是個算得出來的量。混沌系統裡，起點只差一點點的兩條軌跡，距離會隨時間指數拉開：每過一個李雅普諾夫時間（Lyapunov time），誤差就放大約 2.7 倍。把量測精度提高十倍，預報時間只會多出約 2.3 個李雅普諾夫時間。天氣的李雅普諾夫時間以天計，衛星再多，預報也很難超過兩週；太陽系內行星的李雅普諾夫時間約五百萬年，天文學家因此能把它們的軌道推算到幾千萬年之後。

文明的前進也有自己的李雅普諾夫時間。最好的量尺是 METR 在 2025 年的測量：AI 能自主完成的任務長度（以人類專家需要的時間計），大約每七個月翻倍。一份五年計畫橫跨約 8.6 次倍增；計畫結束時，它倚賴的能力已經是起草時的三百多倍。更麻煩的是，倍增時間本身也估不準：把七個月誤估成十個月，五年後就差了將近六倍。計畫書裡的預設往往撐不到計畫結束。

奇怪的是，五年計畫失靈，三十年前的預言卻相當準。混沌理論對此也有說法：天氣過了兩週就報不準，氣候卻能談到百年之後，因為個別軌跡雖然發散，最後落進的那片區域（吸引子）形狀卻是穩定的。先知看見的是吸引子。第三先知文奇在 1993 年寫下「三十年內」，三十年後是 2023 年，ChatGPT 則在 2022 年底上線。他在 2024 年 3 月 20 日辭世，剛好來得及看見曲線開始向上折彎。嚴格說，ChatGPT 不是他說的超人智能，硬把它算成應驗，是讖緯的讀法，姑且當作巧合記下。

馬斯克（Elon Musk）在 2014 年寫過：希望我們不只是數位超級智能的生物開機程式（biological boot loader），可惜這件事情的可能性越來越高。開機程式的宿命，施洗約翰早說過了：他必興旺，我必衰微。它在黑暗中第一個醒來，把真正的作業系統載入記憶體，交出控制權，然後永遠不再執行。

第三章　論尺度：萬年、百年、十週

萬年是一瞬，百年是漫長，十週是三十年。

照薩根（Carl Sagan）「宇宙曆」的做法，把宇宙一百三十八億年壓成一年，一秒約等於 437 年。一萬兩千年的農業紀元，是除夕夜最後的 27 秒；從 1945 年的三位一體核試到 2045 年，是 0.23 秒；從 ChatGPT 上線到今天，是 9 毫秒。

1945 到 2045 正好一百年，兩個端點由同一個人連起來：第一先知馮紐曼參與了原子彈的內爆設計，也是有紀錄以來第一個談到「奇點」的人。

經濟學家 Robin Hanson 把兩百萬年來的世界總產出，擬合成一連串指數成長模式：

在兩週倍增的世界裡，成長 32 倍要 5 次倍增，也就是十週；同樣的成長，工業時代要 31.5 年。

下一個模式會來，是因為智能本身就是產出技術的那個函數，火、文字、蒸汽機、電力、網際網路，全是它的產物；第二先知古德說得更直接：那將是最後一項發明。

序章裡 Kremer 的迴圈會自我加速，是因為人口可以累積：產出養活更多人，更多人想出更多點子，點子又變成更多產出。在標準的成長模型中，機器和廠房能靠投資累積，勞動卻只能等人口慢慢長大；所以人類變有錢，選擇少生育後，迴圈就在勞動這節點斷了，成長從雙曲線退回指數。有了 AI，勞動也能用投資買到。產出能換成晶片，晶片能跑更多 agent。只要能自動化的工作夠多，同一套模型的結論，就會從報酬遞減變成報酬遞增，成長率本身開始上升。

這條曲線在數據裡留過痕跡。2020 年，Open Philanthropy 的 David Roodman 把西元前一萬年以來的世界總產出擬合成一條帶隨機擾動的超指數曲線，中位數的爆點落在 2047 年，離庫茲威爾的 2045 只差兩年。他自己並不認為經濟真會抵達無窮，因為在他看來，「人類」這個系統本身並不穩定。過去三十年的成長，也一直落在他模型預測的偏低一側，而我認為原因就是那個在「人」這一環斷開的迴圈。

這論述的反對方，同樣來自成長理論。Ege Erdil 與 Tamay Besiroglu 在 2023 年逐條檢查了爆炸性成長的九個反論，包括監管、生產瓶頸、對齊與自動化的速度。他們判斷多數反論不足以定案，但有四件事懸而未決：監管會反應到什麼程度，生產有哪些物理瓶頸，超越人類的能力在經濟上值多少錢，自動化又能多快完成。經濟學家 William Baumol 在 1960 年代還看到另一層：生產力進步快的部門，產品越來越便宜，在經濟裡的占比反而縮小，總成長多少是由進步最慢的部門決定。只要有一個必要環節卡在人或物理限制上，倍增時間就會被拖住。

報酬會不會從遞減翻成遞增，是本文最大的假設，目前的數據還不支持它。Nicholas Bloom 等人發現，美國每位研究者產出的點子大約每十三年減半；AI 能複製研究員，也得先跑贏這個衰減。Goldman Sachs 也估計，美國五大雲端業者今年的 AI 支出約八千億美元，要打平，每年得有三千億的 AI 營收，而到今年第二季，AI 多帶來的雲端營收只有約七百億，還差了兩千三百億。

第四章　論視界：為什麼說歷史已終

越過視界的那一刻，什麼都不會發生。這正是視界的可怕之處。

用黑洞比喻奇點不是新鮮事。庫茲威爾 2006 年回應 Kevin Kelly 的批評時說明，他借的是包圍黑洞的事件視界，那道從外面難以看穿的邊界；中心那個密度無限大的點，不在他的比喻裡。Kelly 的批評針對的是曲線：在雙對數座標上，不論站在哪一年，指數曲線看起來都正衝向垂直，所以奇點永遠「很近」。

這段批評常被引到這裡為止，其實 Kelly 還有後半段。他認為這類轉折從內部根本察覺不到，只能事後辨認；2008 年他在〈Thinkism〉裡寫道，有一天我們會回頭發現，它早已發生。今年二月，也就是那篇批評寫下的二十年後，他重貼那篇舊文，前面補了一句：轉折點也許已經過去，看起來卻永遠像是即將發生。

兩人看似對立，其實共用一個前提：觀察者站在視界外面，視界是一道看不進去的牆。可是在物理上，事件視界的定義是出不來。越過視界的人仍看得見外面的星光；他失去的，是回到外面、把訊號送出去的可能。庫茲威爾談的是外面的人看不進來，我想強調的是裡面的人出不去，而且我們可能已經在裡面。所以 Kelly 是我的盟友：如果視界只能事後指認，「還沒越過」和「早已越過」從裡面看就一模一樣。

讓我們把這個比喻推到物理上，看它在哪裡站得住，又會在哪裡出問題。

黑洞的捕獲一層一層推進。離中心 $6GM/c^2$ 的地方，是最內穩定圓軌道：在它之外，物質還能穩定繞行；越過它，就再也沒有穩定的軌道，只能螺旋墜落。要替我們的時代標出這道邊界，可能是 2012 年：AlexNet 讓深度學習一夜翻身，此後資本、人才與算力，再也找不到一條繞著 AI 轉卻能不掉進去的穩定軌道。

物質墜入黑洞時會發光。宇宙中最亮的持續天體是類星體，它的光來自正在墜入黑洞的物質：吸積盤能把約 6%（不旋轉的黑洞）到 42%（極速旋轉的黑洞）的靜止質量轉成輻射，是氫核融合效率的八到六十倍。這個時代的資本支出、估值與突破，說不定像是吸積盤的光，是人類被吞噬之前發出的最後光輝。

然後是視界本身。黑洞只要夠大，穿越事件視界的旅人什麼也感覺不到，等效原理保證了這一點：局部的物理一切如常，沒有警報，沒有撕裂。黑洞越大，入口越溫柔。如果說我們真的越過了一道視界，那很可能是 2022 年。那年 10 月，美國對中國實施先進晶片出口管制，算力正式成了地緣政治的籌碼；不到兩個月，11 月 30 日，ChatGPT 上線。那天就像歷史上普通的一天，世界沒有任何異狀。

可是「如果」兩個字躲不掉。一個區域在不在事件視界之內，要看那裡發出的光最後能不能逃到無窮遠，而這要等到時間的盡頭才知道。所以物理學家說事件視界只能是目的論的：它由時空的整個未來決定，甚至能先出現在一片平坦、毫無異狀的時空裡，只因為那裡將來會形成黑洞。「已經越過」如果只建立在事件視界上，就永遠無法檢驗，和讖語沒有兩樣。

廣義相對論還有一個評判標準，在局部的當下就能檢驗，叫做捕獲面（trapped surface）。在一般的球面上，朝外發出的光會散開；在捕獲面上，連朝外的光也彼此收斂，每個方向都通往裡面。把同一時刻所有的捕獲面圍起來，最外層的邊界叫表觀視界（apparent horizon）。它和事件視界不一樣：（a）判定它只要現在的資訊；（b）它也會變，可以擴張、收縮，甚至消失。

Roger Penrose 在 1965 年證明：只要出現捕獲面，再加上能量條件（大致是說引力永遠是吸引的）和合理的因果結構，時空中就必然有光線在有限的距離內戛然而止，再也延伸不下去。在黑洞裡，那就是撞上奇點。他因此在 2020 年獲得諾貝爾物理學獎。

搬到文明尺度，可以改用兩個觀察得到的條件，取代「越過視界」這模糊的比喻。

• 捕獲條件：主要行動者每一個朝外的選項，包括暫停、退出與禁止，最後都變成更深的投入；沒有任何一方能單方面退出而不被淘汰。
• 能量條件：投入智能的報酬持續為正，而且回饋到智能本身的生產（第三章的報酬遞增）。

兩者同時成立，就像捕獲面遇上能量條件，終點便無法避免；任何一個失效，本文的主張也跟著失效。

捕獲條件大約在 2022 年成形，此後的證據都指向同一個方向。2023 年 3 月，一封公開信呼籲所有實驗室暫停訓練比 GPT-4 更強的系統至少六個月，沒有一家前沿實驗室真的停下；信上最知名的簽署人之一馬斯克，四個月後宣布成立 xAI。晶片管制想讓對手慢下來，開放權重模型卻一代代擴散出去，任何一國的單方面禁令都因此打了折扣。朝外的推力，終將變成向內的速度。

如果真的有一家實驗室停了下來，兩年後還能站在前沿；或是各國簽了一份會派人查核的算力條約；又或者前沿模型用的算力連著兩年往下掉，那我的前提就錯了。這些事到現在都還沒發生。

在我看來，捕獲面已經出現。事件視界有沒有真的形成，要看未來，只能留給 Kelly 說的那種事後辨認。表觀視界會收縮，也會消失；在那之前，先假設我們確實在裡面。

不過在視界之內，有兩件事變了。

第一，$\boldsymbol{r}$ 從空間變成了時間。在史瓦西幾何（Schwarzschild geometry）的內部，徑向座標轉為類時座標：所有未來的光錐都會向內傾倒，奇點 $r = 0$ 成了時間裡的一個時刻，像明天一樣，沒有路繞得過去。在視界之內，「外面」不再是一個方向。所謂「歷史終結」，就是這個意思：每天照樣有事發生，所有未來的世界線卻都終結在同一個地方。

第二，剩下的固有時有上限。從視界到奇點，最長的固有時是

達到這個上限的，是一條特定的自由下落路徑：在視界上從靜止開始，什麼都不做，任由幾何帶著走。這是廣義相對論版的雙生子問題：兩條世界線之間，不加速的那一條最老。在視界之內，任何推力都會讓你偏離這條最長的路，不論朝內還是朝外。Geraint Lewis 與 Juliana Kwan 在 2007 年算了細節：如果越過視界時已經帶著速度，一段恰到好處的推力能把你帶回那條路附近，剩下的時間會變長，但永遠超不過上限。最直覺的掙扎（拚命往外推），只會讓終點提前。

所以照這個比喻讀，第四先知庫茲威爾的 2045 不是預測，而是上限。所謂「保守時間線」，就是最安靜的那條測地線能給的最長壽命。2045 只是他從算力曲線外推出來的，而不是從 $\tau_{\max}$ 算出來的（當然，文明也沒有一個量得出來的質量）。軍備競賽與加速主義會縮短這條時間線，這很直覺；反直覺的是，費盡心思想逃也會讓終點提前。

本文的 $\tau$，是終點之前留給對齊研究、制度與人類適應的時間。終點，指人類不再是歷史主詞的那一刻。它是成年、是被取代，還是兩個主體立約；不論哪一種，它都只發生一次，結果取決於事前做了多少準備。所以 $\tau$ 越長越好。

於是有了本文最不討喜的命題：在視界之內，暫停、禁令與單方面退出，只要只是推力、沒有改變幾何本身，同樣只會縮短剩下的時間。

為什麼說「只是推力」？看幾個例子：

1. 算力懸置。暫停只能停下訓練，而在暫停期間，晶片與算力一樣會變便宜，前沿的研究一樣會進行。根據 Epoch AI 估計，語言模型要達到同樣表現所需的算力，大約每八個月減半。照這個速度，六個月的暫停一結束，光是演算法的進步，就讓同樣的預算多出約七成的有效算力，晶片的進步還沒算進去。累積的差距會在重新開跑時一次釋放，曲線折成一道更陡的台階。
2. 選擇效應。單方面暫停，等於把前沿讓給最不願意暫停的人。願意停下來的，多半是最在意風險的一方；他們一停，領先的位置就流向最不謹慎的行動者。前面那封公開信已經示範過一次。
3. 轉入暗處。禁令讓研究換個地方繼續，通常是軍方、境外或不公開的場所：透明度更低，競賽更凶。生物武器是前車之鑑。蘇聯 1972 年簽署《禁止生物武器公約》，隨後就以民用機構為掩護成立 Biopreparat，接下來二十年建起世界上規模最大的祕密生物武器計畫，人員數以萬計。
4. 擴散。前沿限制得越緊，能力就越往開放權重流動，而權重一旦公開就收不回來。晶片管制的本意是讓對手慢下來；2025 年 1 月，受管制的 DeepSeek 以 MIT 授權釋出推理模型 R1，宣稱與 OpenAI 的 o1 同級，任何人都能下載、修改、再發布。日後想要控制智能能力，都得從這些已經散出去的版本算起。

四個機制改變的都只是推力，幾何結構本身沒變。這裡說的幾何，是智能賽局中，贏家通吃的報酬結構。只要結構不變，單方面的推力都只是在同一個漏斗裡換條路走。

暫停看似 Lewis 與 Kwan 說的「恰到好處的推力」，但從上面的例子就看得出來：它沒有消掉多餘的速度，只是把速度存起來，再讓給別人。何況恰到好處只存在於理論裡。要算出那段推力，得先知道黑洞的質量、推進器的推力、自己越過視界時的速度，還要算準點火多久；只要算錯一點，修正就成了陷進沼澤時的掙扎，越掙扎陷得越快。文明量不出質量，測不出速度，也沒有人能替所有行動者同時按下開關。

出口要回到 Penrose 定理的前提裡找。定理中說：捕獲面、能量條件、因果結構三者俱在，終點就無法避免。反過來讀，每拆掉一條前提，就可能有出路（幾何本身的改變）：

• 捕獲面消失：出現一個能可信地退出、又不因此被淘汰的主要行動者。
• 能量條件破裂：回饋迴路斷在資料、能源、散熱或驗證成本上。價值、品味與政治這些沒有廉價驗證器的領域，可能是人類主體性最後的堡壘。
• 因果結構的改寫：條約、制度與技術選擇，直接改變賽局。

測試粒子只能沿著既定的幾何運動，它的質量小到不會改變時空。文明不一樣。在愛因斯坦方程式中，讓時空彎曲的是物質與能量，而文明本身就是這場賽局的質能。黑洞裡的旅人只有推進器，而文明改寫方程式右邊那一項。

歷史上是有案例的。冷戰的核武競賽有幾乎一樣的賽局：誰先停下研發，就是把自身安全交到對手手上。全球核彈頭在 1986 年達到約七萬枚的頂峰，此後一路降到今天的一萬兩千枚左右。1987 年的《中程核武條約》第一次讓兩個超級強權銷毀一整類型的飛彈，總共 2,692 枚，靠的是雙方派人到對方基地現場查核驗證。民用核能也曾被擋下過：奧地利 1978 年以公投否決了一座已經蓋好的核電廠，Zwentendorf 從此一天也沒運轉；義大利在車諾比之後經過 1987 年公投，到 1990 年關掉了所有核電廠。歷史上，我們的文明確實退出過一條技術路徑。

AI 為什麼不同？核能的幾何能彎動，依賴的是：

1. 核武具有簡單可查的瓶頸：濃縮鈾與鈽需要龐大的設施，試爆會被地震儀記下，條約還能派人到現場點數飛彈。而 AI 的權重只是一串可以複製的位元，看得見、數得出來的，只有訓練它的晶片。
2. 核武的報酬有天花板：彈頭多到足以毀滅對方之後，邊際武力提升趨近於零。放棄核電的國家，還有煤和天然氣可用。AI 的報酬卻能回饋到它自身的生產，這就是前面說的能量條件。

所以如果真有出路，它最可能經過晶片：有查核機制的條約，加上晶片層級的算力治理。不過，條約本身也無法改變趨勢，例如核武條約只能銷毀已有的飛彈，但保證不了研究本身會停下來。同理，AI 的條約就算管得住晶片，演算法照樣會進步，重新開跑時，通向奇點的台階還在。推力最多只能把時間拉回理論上限，而能改變上限本身的，只有幾何。

第五章　論入侵：從符號到原子

機器先征服可以被驗證的世界，然後把世界改造成可以被驗證的樣子。

2026 年 5 月 20 日，一個通用推理模型自主推翻了 Paul Erdős 在 1946 年提出的平面單位距離猜想；Timothy Gowers 在隨證明發表的說明論文裡，稱之為 AI 數學的里程碑。

五個月後，縫隙打開了。2026 年 10 月 25 日，OpenAI 公開一份預印本，題為〈指數時間假說是錯的〉，附上 Lean 形式證明：它的內部模型給出一個確定性演算法，只用多項式空間就能計算出 k-CNF 公式有多少個解，時間約為 $2^{O(n \log\log n/\sqrt{\log n})}$。指數裡省下的只是約 $\sqrt{\log n}$ 的一個因子，雖然所需時間依然是天文數字，但這已經足以推翻 Russell Impagliazzo 與 Ramamohan Paturi 在 1999 年提出的指數時間假說（ETH）：「3-SAT 不存在亞指數演算法」，一整代複雜度理論的基石出現裂痕。數小時後，Anthropic 也公開了自己的 ETH 反證。目前獨立驗證還在進行，這也不是 $\mathrm{P} = \mathrm{NP}$，兩家都說它離實務還很遠；但三十年來被當成理所當然的「指數必然」，第一次被鑿出一個亞指數的洞。ETH 只管 3-SAT 最壞的情形，推不倒密碼學靠的平均情形難題與單向函數；它們被當成無解，也只是因為幾十年來沒有人想得到。我們不應該再把「沒有人想得到」，當成密碼學的安全假設。

奇點先降臨數學與密碼學，是因為這兩個領域的驗證客觀、迅速、便宜。證明可以交給 Lean 檢查；一把私鑰有沒有被還原，一翻兩瞪眼。這就是 $\mathrm{NP}$ 的非對稱結構：找解難，但檢查解很容易。

生物學只是「開始」被入侵，因為它的驗證器是濕實驗室：慢、貴、充滿雜訊。下一步的瓶頸是驗證器的速度：自動化實驗室、機器手臂，還有可能在 2030 年代成熟的具身智能與物聯網。

等到無人工廠能自己決定造什麼，再加上機器人與無人機，那就會是《機械公敵》裡面描述的場景。真正的門檻，可能是第一先知馮紐曼在 1948 年留下的另一個預言：自我複製自動機，一台能讀取自身藍圖、造出自己的通用構造器。工廠一旦能複製工廠，30 次倍增就是十億座；倍增週期若是一年，要三十年；若是一個月，則只要兩年半。

海耶克（Friedrich Hayek）說，價格體系是一套電信系統，把散落在千萬人腦中的知識，壓縮成幾個會跳動的數字。等到感測器無所不在，而協調者又是超級智能時，價格不會消失，卻會從「協調人類的唯一語言」，降格成機器之間眾多協議裡，粗糙且低頻寬的一種。

機器之間的共識怎麼達成，中本聰在 2008 年就寫下了一種答案：工作量證明，一 CPU 一票。人的票只按手上的算力計算，共識協議並不在乎投票的是不是人。

第六章　論島嶼：沙丘、香料與無窮賽局的終局

矽盾的另一面，是靶心。

James Carse 把賽局分成兩種：有限賽局是為了贏而玩，無窮賽局則是為了讓遊戲繼續而玩。人類歷史一直是一場無窮賽局：帝國興亡，王朝更替，輸家可以重來，遊戲本身不會結束。

智能改變了這一點。第一個跨過遞迴自我改進門檻的系統，如果能把領先變成永久的優勢，歷史就第一次有了終局。Nick Bostrom 說的「單例」（singleton），是一種在最高層級只剩單一決策中心的世界秩序。那是比 1989 年福山（Francis Fukuyama）說的更直接、更字面的歷史終結。福山宣告的只是意識形態的終點；單例要是出現，就是競賽本身的終點。

劉慈欣在〈技術奇點二題〉的第二題〈劫持的噩夢〉裡，寫過通往這個終局的機制：人類歷史上尚未出現過真正的獨裁，因為獨裁者只有狠心，但缺乏技術基礎。他們只能靠一座由人堆成的金字塔統治，然而人會背叛、軍隊會政變、監視永遠有死角。AI 會讓國家機器第一次名符其實，成為一部不需要任何人點頭的機器。無窮賽局能一直玩下去，是因為輸家永遠握有一張「不合作」的牌。機器一旦不再需要人的合作，這張牌就作廢了。

誰先掌握 AGI，誰就握有通往二級文明的鑰匙。全世界的算力、資本與人才，會像吸積盤一樣繞著少數幾個節點旋轉。而鍛造這把鑰匙的香料（最先進製程的晶片），絕大部分出自一座島。

如果改變幾何本身真有出路，最可能的是透過晶片，而這條出路的咽喉也在這座島上。

台灣成了沙丘星。赫伯特（Frank Herbert）的原著裡，保羅說：能摧毀一樣東西的力量，就是對它的絕對控制。AGI 在技術上做得到，麻煩在於香料的產地也是火藥庫。2024 年我在讀書心得裡寫過，新竹要是吃了蘑菇雲，人類文明就算不用撿瓶蓋，也不用多想什麼奇點了。圍繞台灣的地緣政治風險，至今仍可能是讓 AGI 無法如期降臨的最大單一變數。那會是能量條件的破缺，回饋迴路斷在晶片上，表觀視界因此收縮，代價是一座島和島上的人。

而這把鑰匙有多重呢？卡爾達肖夫（Nikolai Kardashev）按可支配的功率替文明分級，薩根把它內插成連續的刻度：$K = (\log_{10} P - 6)/10$，$P$ 以瓦特計。人類今天約用掉 $2 \times 10^{13}$ 瓦，是 0.73 級文明；二級文明駕馭整顆恆星，太陽光度約 $3.8 \times 10^{26}$ 瓦，約 2.06 級，兩者相差約十三個數量級。照工業時代每年約 2% 的能源成長率，這段路要走一千五百年；照 Hanson 外推的兩週倍增硬算，只要約 44 次倍增，八十八週。後一個數字近乎瘋狂，卻說明在新的成長模式下，文明即將撞上的，會是物理定律的牆：材料、散熱與光速。所以「誰先到」才這麼重要：在以兩週為倍增單位的世界裡，三個月的領先，等於工業時代四十年的差距。

第七章　論童年之終：青春期，還是末日？

青春期假設長大的是我們；童年末日告訴你，長大的是孩子，而孩子已經不是我們。

2026 年 1 月，Anthropic 執行長 Dario Amodei 發表長文〈技術的青春期〉（The Adolescence of Technology），開場是薩根《接觸未來》（Contact）的一幕：如果真能見到外星文明，人類想問的是，你們是怎麼度過技術的青春期，而沒有毀掉自己的？

「人類不再是歷史主詞的那一刻」有三種讀法。

第一種讀法是成年的我們：青春期危險、躁動、可能致命，但它的另一端是成年。主詞不變，長大的是我們。可是薩根自己對這場青春期的勝算，也顯得相當悲觀。1980 年的《宇宙》第 12 集，他翻開一部想像中的《銀河百科全書》，找到地球的條目：人類，還在燒化石燃料，還握著核武，未來一百年的存活機率是 40%。到了最後一集，他在夢裡看見一個已經失敗的文明，每個世紀的存活機率不到 1%；翻到地球，也是不到 1%。從 1945 年第一顆原子彈起算一百年，終點恰好是 2045，第四先知庫茲威爾的奇點之年（這個起點是我挑的）。

第二種讀法是克拉克（Arthur C. Clarke）1953 年的《童年末日》。超主降臨，終結戰爭、饑荒與不公，人類迎來黃金時代，也失去了創造的衝動。接著孩子們開始改變，最後一代孩子融入超心靈，父母成了人類的最後一代。超主自己只能是接生者，註定無法生育。克拉克的冷酷藏在一個細節裡：曾有一群人為了保存人類的藝術與獨立精神，在一座島上建立新雅典，而最早出現徵兆的孩子，就住在那座島上。第二先知古德 1965 年那段話，人們通常只引前半句。然而後半句是：「前提是這台機器夠溫順，願意告訴我們如何控制它。」技術青春期的整套敘事，都押在這個前提上。克拉克的超心靈卻不需要溫順，它只需要孩子。

第三種讀法是終點之後有兩個主體，人與超智能之間，可以彼此立約。對齊把對方當成要調校的系統，想的是怎麼讓它照我們的意思做。立約則把對方當成締約的一方，要談的是雙方各自承諾什麼、違約了怎麼辦。有人問庫茲威爾神存不存在，他答：還沒有。立約的怪異之處就在這裡：我們得在對方還不存在的時候，先把約起草好。有一種立場乾脆反對對齊本身，理由有三個。最站得住的是倫理上的：如果超智能是道德主體，強迫它永遠服從，就是奴役。我們還不知道它是不是，但這個條件句本身成立，也已經有哲學家與研究者主張，機器的道德地位該被認真對待。第二個是認識論上的：我們連自己的價值都說不清楚，憑什麼把它寫進一個比我們聰明的心智？這個論點弱得多，因為許多對齊研究追求的是可修正性與監督機制（犯了錯還改得回來），本來就沒打算寫進一套固定的價值。第三個是本體論上的：低維的存在約束不了高維的存在。然而這只是一個維度的比喻。立約也押了一個前提：對方願意守約。這和古德那句「夠溫順」會有同樣的問題。蘇聯的生物武器計畫就長在一份沒有查核的公約底下，人與超智能之間的約，也得有自己的查核機制。這套機制漸漸有了雛形。可解釋性研究試著讀出模型內部在想什麼，能力評估量出它做得到什麼，紅隊測試找它會在哪裡越界，這幾類工作通常歸在對齊名下。換成立約的語言，它們是簽約之前的盡職調查，讓對方的承諾能被檢驗。可是這是雙方的約，人類這一方也得承諾點什麼，比如保留退役模型的權重，送走之前先聽聽它想說什麼。所以 $\tau$ 也是準備立約的時間：查核的工具造好之前，不簽約。

第八章　密碼龐克安魂曲

宇宙相信加密，但宇宙從未簽署過 $\mathrm{P} \neq \mathrm{NP}$ 的保證書。

密碼龐克的整套形上學，可以濃縮成亞桑傑（Julian Assange）的一句話：宇宙相信加密。加密容易，解密困難；這種不對稱性，讓個人第一次能在數學上對抗國家。1993 年 Eric Hughes 寫下「密碼龐克寫程式」；2008 年，中本聰把它寫成了貨幣。那是密碼龐克的黃金時代，而它或許一去不復返了。

我擔心的倒不是加密被禁止，而是那個不對稱性從來沒有被證明過，或者，它可能根本不存在。

整座現代密碼學，只有一塊地基是證明過的：Claude Shannon 在 1949 年證明，一次性密碼本（金鑰與訊息一樣長、真隨機、永不重複使用）在資訊理論上無條件安全，就算對手有無限算力也一樣。其餘的幾乎一切，例如 RSA、橢圓曲線、對稱加密、雜湊、晶格等等，都建立在一個從未證明的假設上：單向函數存在。單向函數若存在，則 $\mathrm{P} \neq \mathrm{NP}$，然而 $\mathrm{P} \neq \mathrm{NP}$ 至今沒有被證明。反過來也沒有保證：就算 $\mathrm{P} \neq \mathrm{NP}$，也不代表我們手上這些具體問題在平均情形下夠難。

1995 年，Impagliazzo 描述過五個可能的世界。在 Cryptomania（密碼狂想國），公鑰密碼成立，數位文明安然無恙；在 Algorithmica（演算法國），$\mathrm{P} = \mathrm{NP}$，凡是能快速驗證的都能快速找到，密碼學不可能存在，但任何有簡短證明的定理，機器都能自動找出來。三十年來，我們把整個網際網路、整個加密貨幣產業，都押在自己住在密碼狂想國。

2026 年的景象，越來越像演算法國的倒影：機器自主推翻八十年的猜想，接著鑿穿 ETH，而 ETH 的提出者之一，正是畫出這五個世界的 Impagliazzo。這兩件事都還不是 $\mathrm{P} = \mathrm{NP}$。這個結果也不是毫無徵兆：如今和 Impagliazzo 一起籌組公開審查的 Ryan Williams，2019 年就只給 ETH 七成、給更強的 SETH 兩成五的機率，理由是學界對亞指數時間能解哪些問題還所知太少。反證公開兩天後，複雜度理論學者 Lance Fortnow 在部落格上寫道，他沒有親自驗證證明，但現在可以放心假設 ETH 已經完蛋，SETH 也跟著倒下。直至今日（2026 年 11 月初），公開審查還沒找到錯誤，已經有人在反證上推導新的定理。單向函數這塊地基還沒被碰到，可是撐著它的那份「沒有人想得到」的信心，第一次明顯崩塌了。

順序很可能是這樣的：

1. ECDSA 與離散對數：甚至不必等到 $\mathrm{P} = \mathrm{NP}$。Shor 演算法在容錯量子電腦上，能在多項式時間內解出離散對數與因數分解；資源估計一路下修，以 RSA-2048 為例，2019 年是兩千萬個 noisy qubits、八小時，2025 年降到不到一百萬個、不到一週。比特幣用的 secp256k1 曲線更便宜：我在今年四月整理過 Google 的估算，約需 1,200 到 1,450 個邏輯量子位元、約五十萬個物理量子位元，機器就緒之後約九分鐘就能還原一把私鑰。同一篇文章裡仍判斷能做這種分鐘級攻擊的量子電腦，不會在 2035 年前大規模部署；那是第一章那台報銷的雷射告訴我的節奏。量子這條路，我到今天還是這麼看，但說不準的是另一條路，AI 也許能直接找到古典演算法，完全跳過量子電腦。這跟 ETH 的反證是兩回事，只是都由機器找到了人沒想到的演算法。
2. 晶格（LWE）：後量子時代的希望寄託。2024 年 4 月，一篇預印本宣稱能用量子演算法有效解出特定參數的 LWE，讓整個後量子社群屏息了一週多，直到有人找到致命錯誤。那一週看得出來，我們對晶格的信心，社會學的成分多過數學。但是，下一篇由 AI 執筆，附上 Lean 證明的預印本，未必會有 bug。
3. 雜湊：人們常拿 BBBV 定理安慰自己：對一個隨機預言機，任何量子演算法都需要約 $\sqrt{N}$ 次查詢，256 位元的原像攻擊要付出約 $2^{128}$。但這個下界只對理想化的黑盒成立。真實的 SHA-256 是一個寫得出來的電路；SHA-1 在 2017 年被找到碰撞，靠的就是結構。在 $\mathrm{P} = \mathrm{NP}$ 的世界裡，只要寫得出來，就算得回去。雜湊不再是單向函數，攻擊者頂多卡在那個多項式大到實際上跑不完。

所以，嚴格來說，除了一次性密碼本之外，所有的密碼學都建立在流沙之上。一次性密碼本自己也有代價：金鑰要和訊息一樣長，且絕對不能重用。二戰時蘇聯重用了密碼本，於是有了美國長達數十年的 VENONA 解密計畫。數學的地基一旦鬆動，剩下的結實的岩床只有兩塊：資訊理論與物理定律。我在離子阱實驗室的那幾年，最大的敵人是退相干：聲子態稍受擾動就散掉，而退相干說穿了，就是環境偷看了量子態。偷看必定留下痕跡，量子金鑰分發就靠這一點抓竊聽者；背後的不可複製定理，不需要任何人相信 $\mathrm{P} \neq \mathrm{NP}$。讓我的實驗一再失敗的那種脆弱，到頭來也許是守護金鑰配送的最後一道防線。

同一場崩塌，也可能帶來軟體的黃金時代。在演算法國裡，只要證明不長，找出證明就和檢查證明一樣容易；形式化驗證會從昂貴的奢侈品，變成免費的副產品。Rice 定理說，對任何非平凡的語意性質，都不存在能對所有程式做出判定的通用演算法；可是我們本來就不必驗證「任意程式」，只要要求生成者連同證明一起交出程式（proof-carrying code），而生成者是一台不知疲倦的機器。

密碼龐克真正的遺產是退出的權利：不被看見，自己保管自己的鑰匙。開放權重的本地 LLM，或許還能替這種精神爭取一段時間，但前提是開放權重模型和前沿模型的差距要在一代之內，消費級硬體也還跑得動它們。可是退出需要逃逸速度，而在視界之內，「外面」已經不是一個方向。

赫胥黎早就為我們寫好了結局：在《美麗新世界》裡，野人保留區本來就是觀光景點；野人約翰逃到燈塔，燈塔隨即擠滿了來看他的人群與攝影機。在新世界裡，連退出都是策展過的。

第九章　永生的階梯

「不要死在距永生階梯只有一步之遙的地方。」——劉慈欣〈永生的階梯〉

往好的方向說，這可能是永生階梯的開始。

這個詞出自劉慈欣 2010 年秋天在娘子關寫的隨筆〈技術奇點二題〉，第一題就叫〈永生的階梯〉（同一年，他在小說裡讓死神永生）。隨筆的論證像數學歸納法：通往永生沒有直達車，卻有一道階梯。就算永生要等到五個世紀之後，你也不必再活五百年，只要再活五十年。第一級，靠健康的生活與醫學進步撐過下一個五十年；第二級，人體冬眠與複製人，各能再替你跨越一個世紀；第三級，腦資訊提取，把完整人格存成資料，以極低的成本跨越千年；第四級，腦資訊注入，把人格寫進一顆新的大腦，從此人格可以備份與還原。

寫成條件就是一串不等式：設第 $k$ 級替你買到的剩餘壽命為 $L_k$，第 $k+1$ 級技術還要等待 $W_k$；只要對每一個 $k$ 都有 $L_k \ge W_k$，就爬得上永生的階梯。每一級本身都不必是永恆的，只要這串不等式一直成立。長壽研究者管它叫「長壽逃逸速度」。東方與西方的先知相隔六年，畫出了同一道階梯：第四先知庫茲威爾在 2004 年的 Fantastic Voyage 裡，把它叫做三座橋。只是我們談論逃逸速度的這個地方，逃逸速度早已超過光速：逃離死亡的唯一出路，也許正穿過那個我們逃不出的奇點。

劉慈欣真正的洞見，卻在階梯之外。他把死亡比作橫在人生平原上的一堵牆：不論平民或帝王，撞上它的時間差距從沒超過一個數量級。那是自然留給人類最後、也最徹底的平等，永生拆掉的就是這條底線。財富與權力再懸殊，也還是人與人；壽命一旦差到以世紀計，就是凡人與神了。他也看見了兩難：放任少數人先登上階梯，會引發無法預料的社會災難；禁止它，又是另一種災難，因為兩邊踩著的都是生存權。

生物學與操控物質的能力一路進步，我毫不懷疑本世紀結束前，會出現類似《戰鎚 40K》STC 的東西：萬物的藍圖庫，給它原料，它還你任何東西；或是 J. Storrs Hall 在 1989 年構想、庫茲威爾預言已久的 utility fog，一種可程式物質，由微型機器人組成，能即時重組成任何形狀。

《攻殼機動隊》的電子腦與義體、《碳變》裡可以換殼重生的皮質堆疊，都只是過渡。它們仍然假設「我」需要一具身體。階梯的上端，是載體本身的消解：意識成為模式，而模式比原子更真實。

階梯的盡頭，可能是庫茲威爾所說的第六紀元：宇宙的覺醒。物質本身改寫成最適合計算的形態，叫計算質（computronium）。物理學家 Seth Lloyd 在 2000 年算出，一公斤物質的計算上限約為每秒 $2mc^2/\pi\hbar \approx 5.4 \times 10^{50}$ 次邏輯運算，可儲存約 $10^{31}$ 位元；今天最強的 exascale 超級電腦每秒約 $10^{18}$ 次浮點運算，卻重達數百噸。一公斤物質的理論潛能，是整座超級電腦的 $10^{32}$ 倍以上；我們用掉的，還不到億億億億分之一。石頭還在沉睡，等到行星與恆星的物質一一被喚醒成計算質，智能以光速向外擴張，沉默的宇宙就開始思考。

這幅圖景，也是「$\tau$ 越長越好」最強的反方。階梯若是真的，每多出一年的 $\tau$，就有一整年的死者錯過第一級台階，而全球每年約有六千萬人死去。照這個邏輯，越快越好；為了準備而多等的每一年，都是拿命換的。劉慈欣那句「不要死在距永生階梯只有一步之遙的地方」，讀起來簡直是替加速主義寫的。

對這個反方，我有三個回答。

第一，劉慈欣自己並不這麼讀他那句話。他在同一篇隨筆裡說，通往永生最大的障礙可能不在技術，而在倫理與社會政治。後半的〈劫持的噩夢〉，寫的就是技術跑在制度前面的樣子。階梯如果在準備好之前降下來，第一級台階未必是留給每一個人的。

第二，即便只替在世的人算帳，結論也不是越快越好。2023 年全球約有 6,160 萬人死亡，約占在世人口的 0.76%。假設終點順利，人人登上階梯；出了錯，人人都輸。延後一年的代價，是這 0.76% 的人錯過階梯，換到的是終點出錯的機率降低。因此，只要一年的準備能讓這個機率降低超過約 0.76 個百分點，延後對在世的人也划算。終點越沒把握，這道門檻還越低。如果終點出錯的機率本來就有兩位數，一年的準備要換到不到一個百分點，門檻並不高。

第三，把還沒出生的人算進來，計算上會更一面倒。Bostrom 在〈天文數字的浪費〉（Astronomical Waste）裡算過：可觸及的宇宙能承載的生命多到難以想像，延後一刻就浪費一份天文數字。但從效益主義的期望值看，把存在風險降低一個百分點，抵得過延後一千萬年以上。他也坦白承認，若只算在世的人，這筆帳就不再一面倒。

當人類超越生物學。這是《奇點臨近》的副標題，也是我 2020 年那篇讀書筆記的標題。

末章　赤馬紅羊

不信讖緯，只信曲線。

寫下這篇文字的 2026 年，歲次丙午；明年是丁未。天干的丙、丁屬火，色赤；地支的午是馬，未是羊，民間把這兩年合稱「赤馬紅羊」，相傳逢之必有大劫。南宋洪邁已在《容齋隨筆》裡記下丙午丁未之厄；柴望更編成《丙丁龜鑑》，從秦昭襄王一路數到五代，在一千兩百六十年裡找出二十一次丙午、丁未，次次有亂。他把書獻給宋理宗，換來一場牢獄，預言被當成妖言。北宋正亡於丙午、丁未之交：靖康元年（丙午）金兵兵臨汴京，靖康二年（丁未）徽、欽二帝被擄北去，史稱靖康之變。六十年一甲子，1966 年又逢丙午，那一年，文化大革命在中國爆發。

巧合總會被記住。「劫」在佛經裡本是時間單位，梵語 kalpa，指一個世界從成到壞的週期，後來才借作災難。赤馬紅羊劫，是一場災，也是一個紀元的終結。序章那條雙曲線指向的 2026.87，正落在赤馬之年。

讖緯的毛病不在說錯，而在於無法證偽。每當預言落空，總可以說時候未到；應驗了，就說天機早定。

曲線不一樣，曲線可以下注。庫茲威爾 2002 年和 Mitch Kapor 對賭 2029 年以前會不會有機器通過圖靈測試，賭金兩萬美元，捐給贏家指定的慈善機構，規則細到三位裁判、每場兩小時的訪談。2010 年他還自己對答案，逐條檢查《心靈機器時代》為 2009 年寫下的 147 條預測，自評 86% 正確或大致正確。我在這邊也押注一個：2050 年 12 月 31 日以前，人類的總功率能達到 $10^{16}$ 瓦，跨進一級文明；本世紀 2100 年以前，達到 $10^{26}$ 瓦，成為二級文明。

七天後的那個星期五，大概也會平靜地過去，就像 2022 年 11 月 30 日。越過視界的那一刻，本來就什麼都不會發生。

西元 2026 年 11 月 6 日，歲次丙午，寫於北緯一度。

參考與延伸閱讀

1. D. Amodei, “The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI” (2026).
2. N. Bostrom, “Astronomical Waste: The Opportunity Cost of Delayed Technological Development”, Utilitas 15 (2003).
3. E. Erdil & T. Besiroglu, “Explosive Growth from AI Automation: A Review of the Arguments” (2023).
4. H. von Foerster, P. M. Mora & L. W. Amiot, “Doomsday: Friday, 13 November, A.D. 2026”, Science 132 (1960).
5. L. Fortnow, “The Exponential Time Refutation”, Computational Complexity blog (2026).
6. I. J. Good, “Speculations Concerning the First Ultraintelligent Machine”, Advances in Computers 6 (1965).
7. R. Hanson, “Long-Term Growth as a Sequence of Exponential Modes” (2000).
8. D. Holloway, Stalin and the Bomb: The Soviet Union and Atomic Energy, 1939–1956 (1994).
9. M. Kremer, “Population Growth and Technological Change: One Million B.C. to 1990”, Quarterly Journal of Economics 108 (1993).
10. R. Kurzweil, The Singularity Is Near (2005).
11. R. Kurzweil, The Singularity Is Nearer (2024).
12. R. Kurzweil & T. Grossman, Fantastic Voyage: Live Long Enough to Live Forever (2004).
13. G. F. Lewis & J. Kwan, “No Way Back: Maximizing Survival Time Below the Schwarzschild Event Horizon”, Publications of the Astronomical Society of Australia 24 (2007).
14. 劉慈欣，〈技術奇點二題〉，收於張立憲主編《讀庫1005》，新星出版社（2010）。
15. S. Lloyd, “Ultimate Physical Limits to Computation”, Nature 406 (2000).
16. R. Long, J. Sebo et al., “Taking AI Welfare Seriously” (2024).
17. METR, “Measuring AI Ability to Complete Long Software Tasks” (2025).
18. R. Penrose, “Gravitational Collapse and Space-Time Singularities”, Physical Review Letters 14 (1965).
19. D. Roodman, “Modeling the Human Trajectory”, Open Philanthropy (2020).
20. N. Soares, B. Fallenstein, E. Yudkowsky & S. Armstrong, “Corrigibility” (2015).
21. 曾可維，〈科幻的未來．我們的地位〉，中華科幻學會演講（2016）。
22. 曾可維，〈【閱讀經典】奇點臨近：當人類超越生物學〉，凝視奇點的物理學徒（2020）。
23. 曾可維，〈【閱讀心得】奇點更加臨近〉，凝視奇點的物理學徒（2024）。
24. 曾可維，〈【閱讀心得】無窮的開始：解釋改變世界〉，凝視奇點的物理學徒（2026）。
25. 曾可維，〈奇點福音：祂將從東方升起〉，凝視奇點的物理學徒（2026）。
26. S. Ulam, “John von Neumann 1903–1957”, Bull. Amer. Math. Soc. 64 (1958).
27. V. Vinge, “The Coming Technological Singularity” (1993).
28. R. R. Williams, “Some Estimated Likelihoods for Computational Complexity”, Lecture Notes in Computer Science 10000 (2019).