是擔憂還是預測？

沒有人比天體物理學家霍金更擔心，人類未來可能被失控的超級人工智能滅絕。或者有人更擔心，但在中文媒體，沒有人如此被重視。霍金在2018年3月去世。前一年，他在北京舉辦的全球移動互聯網大會上演講，留下很多警示和金句。人工智能以不斷加速的狀態重新設計自身，一旦脫離束縛，人類的反應無法應對。那還是一個比較理性的年代，他和馬斯克(對，就是今天像吃了權力亢奮劑的馬斯克的前身)同在「生命未來研究所」的科學顧問委員會，早於2015年就以公開信呼籲研發人員更關注人工智能安全。2016年10月，霍金在英國劍橋建立了一個新的跨學科研究所，致力研究人工智能對人類文明和物種的衝擊。

2024年3月，CNN報導，美國國務院委託撰寫的一份新報告描繪了高速發展的人工智能帶來的「災難性」國家安全風險，警告聯邦政府，避免災難的時間已經不多了。拜登總統簽署行政指令，要求各部門立即著手減低災難的風險。

然後呢？人工智能的超級競賽白熱化。人們像看熱鬧那樣旁觀ChatGPT與DeepSeek一較高下，但生成式AI和語言大數據系統早已不是重點。可以「埋位」工作，自行作決定的AI代理(agentic AI)已經被招聘，雄心勃勃的企業自動化不是遙遠願景而已。我們真的準備好全面擁抱超人類智能代理決策嗎？萬一它聰明地灰色操作、隱藏失實的操弄、自作主張？

最困難的問題是：什麼是擔憂？什麼是預測？ 

明報副刊「明明如月」專欄，7/7/2025刊出。