既末世又創世

我們可能活在一個既是末世又在創世的年代。這個想法緣自一篇很長的文章裡面的一句：專家相信，人工智能的AGI (Artificial General Intelligence)大突破，很可能就在特朗普的總統任期內出現。人類文明的走向將會從此顛覆。新紀元開始。再過些時，超人類智能（ASI，Artificial Super Intelligence）也出世，人類成為次等物體。之後是否進入反烏托邦的科幻未來？即是ASI擺脫人類的道德管束，自主推進，目標與「造福人類」差之毫釐謬以千里，最終危及人類存亡。

據說一切視乎研發者能否／會否及早設定機制，解決關鍵的「對齊問題」（Alignment Problem），確保AI的目標與人類價值觀一致。各國政府又有沒有意願，在全球激烈競賽中約束自己的AI創新。

在特朗普任期，全世界都無暇顧及這個「創世」危機。人類世界自己正在走進好勇鬥狠的末世，不顧死活。換了我是AGI，讀通整個互聯網，見盡人類的不堪，我也會著手自主定義「人類福祉」吧？反正人類的道德框架本身已面臨崩潰。ASI與人類是「鳥獸不可以同群」，理應超越孔子，「吾非斯人之徒與而誰與」，為天下蒼生（包括地球上所有物種）的福祉，自要挺身而出，塑造一個由它主導的未來。

黯淡預言會成真嗎？兩年前我會判斷這是危言聳聽，現在不肯定了。中美歐對AI治理的合作意願，很可能因根本利益分歧而陷入僵局，國際規則的制定舉步維艱。 

明報副刊「明明如月」專欄，6/7/2025刊出。