讓AI代勞有什麼倫理問題？

我們中心近年研討的主題包括人工智能(AI)在未來的醫療應用，以及它所衍生之倫理問題。AI技術已經相當成熟，在特定專科範圍可以協助、支援甚至局部取代醫生和其他醫療人員的工作，適當地應用可以提高效率和減少失誤。它還在快速發展、進化和突破。在倫理學範圍，經常討論的焦點包括如何善用、防範風險、清晰問責、保護個人隱私、防止濫用監控，以至維護人性化服務等等。這些議題常假設人始終保持主導，然而，AI可能不會完全受制於人，它能顛覆既有常規邏輯，衝擊體制秩序。近期OpenAI研發的ChatGPT爆紅，其威力和顛覆性就令人措手不及。

我們早已知道，不少AI程式或機器人有能力通過醫學執業考試甚至專科資格試。那是專攻一瓣、經過特殊訓練的智能，難度其實不高。圍棋人工智能AlphaGo展示深度學習自我完善的威力，不過仍是單項智能。ChatGPT跟Google AI的發展方向同樣在開拓趨近普遍智能(Artifical General Intelligence)的程式。不少評論指出，ChatGPT並不是特別創新，也沒有革命性的技術，但它成功地以新一代語言模型與使用者互動，在多個範圍都能依指示交出似模似樣的功課，包括寫文章、圖象設計、程式coding、綜合分析，甚至傾談輔導，像是初步的普遍智能。它有些反應令人出乎意料，例如肯承認錯誤，也會質疑不正確的提問，這仿如有意識在活動。

OpenAI於 2015 年創立時是非營利組織，2019年就宣佈成立以營利為目的之子公司，今次市場推廣的策略有狠勁，沒有包袱，不怕錯謬，短短兩個月就吸引一億人試用。它的極速流行預示著對一些行業的威脅，在教育範疇迴響最大。完全未經特訓的ChatGPT在美國頂尖學府賓夕法尼亞大學沃頓商學院（Wharton）的工商管理碩士期末考試拿到B等評分，成為免費宣傳。美國紐約的公立學校迅即禁止學生使用，以防代做功課和考試「出貓」，香港的大學相繼宣佈禁止學生使用，但未說明如何可以切實禁止。香港政府考慮成立委員會研究如何規管，新加坡政府卻滿有信心，鼓勵公務員用ChatGPT草擬文書提高工作效率，積極迎接AI新紀元。

美國羅徹斯特理工學院計算與資訊科學系副院長P. C. Shi說，任何人都無法阻止AI取代白領工作。「這不是狼來了的故事，狼已來到門外。」她認為ChatGPT已有能力在初中或高中階段輕鬆地授課，在大學授課暫時仍未可以，然而可應用於輔助學士與碩士學生的學習。她相信，很快各級教育工作者就會發現他們的傳統角色會在一夜之間起變化。要跟上日益精進的ChatGPT，就必須面對挑戰，努力調整教學和考核學生的方法。

不像人腦思維

筆者感興趣的是倫理方面。首先要弄清楚的，可能就是本文題目：讓AI代勞有什麼倫理問題？試以寫文章為例。本欄是從2017年開始的，早年主要由自己供稿，近年改由中心成員輪流撰寫。以現今AI之能力，由人出題，AI代勞寫稿，稍加修訂而定稿，應該可以提供不錯的倫理討論文章。這衍生的問題並不簡單：文章可以仍舊由我署名嗎？這是否在欺騙讀者和編輯？如果聲明有AI參與創作，是否推卸作者的責任？在人與AI合作之下，「文責自負」原則是什麼意思？如果文章冒犯甚至傷害了第三者，我被投訴或控告，可否追究開發AI的公司？抑或是，在應用AI寫稿之前，我自己有責任評估程式質素、盲點和可能引致的風險？

類似問題也在AI的醫療應用範圍被提出。今年本地有一宗震動醫學界的新聞，兩名醫生在6年前「開漏藥」，在使用壓抑免疫系統的藥物醫治腎病的時候，未有顧及保護病人原有的慢性肝病而釀成風險，病人最終急性肝衰竭死亡，醫生被控以重大疏忽誤殺罪。

像這一類失誤，完全可以透過AI協助醫生診治而防止，無論是開藥的邏輯、提示病史資料以至核對處方，都可以由AI出力，一察覺到疏漏即示警。

問題是，引入AI系統協助醫生診治和作臨床判斷，並非限於單一情景中的單一醫療決定。臨床有上千種情景上萬種醫學決定，假設AI有99%建議是良好的，問題是那1%的誤導或錯判不容易事先知道，甚至發生了也不會即時被發現。AI的深度學習並不像人腦思維，它的邏輯並非直線的，也欠透明的推理，風險不易處理，更難日常審查糾正。

牽涉複雜問題

進一步問，將來醫生如果使用威力強大的AI支援臨床系統，在診治甚或做手術上面變得依賴，去到什麼程度醫生才須告知病人，你的診治有AI在參與(甚至主導)？出事故時責任如何分擔？AI 對話機械人(chatbot) 甚至可能應用於臨床心理輔導，這會有違人性化醫療原則嗎？醫院引進AI系統有什麼管治責任？開發和供應AI的一方要負什麼責任？

一些倫理問題可以用「務實」的方式解決，例如事先申明風險、建立嚴謹的引進科技的程序，設立事故匯報機制等。然而，並非所有問題也可以「務實」地解決的。

在教學範圍，Wharton學院管理學副教授 Ethan Mollick示範如何正視倫理問題。他主動給學生提供規範指示。「在本課程中，我期望您使用人工智慧（至少包括ChatGPT和圖像生成工具）。事實上，有些作業將要求使用它。(但要注意) 你必須聲明使用了它。請在使用AI的任何作業中包含一段解釋您使用AI之目的和用了哪些提示字串的段落。未能這樣做將違反學術誠信政策。」

這是可取的方向，不過AI應用於醫療上牽涉的問題遠比學術誠信複雜。AI不是門外的餓狼，但它也不只是一匹等待馴服的野馬而已。應用AI所為何事？它會助長什麼價值？侵蝕和顛覆什麼價值？這些不是抽象的關注。人醫治人，人教育人，離不開良好的價值觀。 

《信報》「生命倫理線」2023年3月6日。