奇點與臨界點

年輕的美國AI巨企研究員Jacob Coxon 辭職吹哨之後，三大AI巨頭迅即示意，AI太強太快，認同要設法減速。巨頭心底盤算什麼，旁觀者各自詮釋和揣測，但誰也不能確知底蘊。無論如何，客觀地說，今年AI的「進化」真是厲害的：自主行動、呼朋喚類解難題、衝出實驗室「沙盒」藩籬，都沒有難度。

最終人類如何確保可以控制和善用厲害的AI，可能連巨頭自己也說不出所以然。如果讀者有留意巨頭不時發表的言論，應該聽過，Open AI的亞特曼，和Tesla、SpaceX、AI通吃的馬斯克言之鑿鑿：在今年或明年，AI要進入「奇點」了！

「奇點」是什麼？那是不能認知、無法想像的極端點。這是借用自物理學與數學的概念，如黑洞的中心密度無限大、體積無限小，計算公式變得無解，現有物理定律失效。據說AI會發展出不斷自我改良的能力，智能將全面超越人類，科技進步的速度進入無窮快。到時人類的經驗與預測全面失效，人類試圖介入反而「阻手阻腳」，未來就是不可知的全新世界。

我的頭腦不夠狂熱，跟不上這樣的烏托邦快車。在我的思維方式，人類真正的挑戰是能夠否緊盯著AI管治失控的「臨界點」，這相當於英文的tipping point。

依我看，中國發展人工智能一直是緊盯著「失控生亂」的風險，關注的是很實際的國力和產業實力，沒有興趣直衝向「超智能」，可能根本不相信有一天會出現科幻式的「奇點」。

 

《明報》副刊「明明如月」專欄，29/9/2026刊出。