ChatGPT及其他傾偈機器人投入使用之後，中文世界似乎一面倒，只見讚揚、欣佩。批評最多止於目前不足，如何改善；而並唔鳥瞰整個系統所帶來嘅風險，以求達到利害平衡。
周末本來打算休筆，但今早收到麻省理工大學通訊the checkpoint 上Jess Hamzelou一篇文章，對所謂人工智能用於醫療嘅風險，講得非常清晰，覺得值得大家比較清閑時間，介紹畀大家知道。
我話所謂人工智能，係因為中譯AI，稱為人工智能。但多位從事呢種科技研究者，都已經指出，名詞會做成認知偏見，令人以為機器最後可以擁有思維、個性、甚至超越人類嘅智慧。已經有啲人認為人類冇乜特別，機器人取代人類乃大勢所趨，人類應該擁抱接受一個被畜養嘅將來。
其實，所謂人工智能，只係一種「學習算法及機器推論系統」Systematic Approaches to Learning Algorithms and Machine Inferences (SALAMI). 機器只係用大量數據來分析出各種關係，從而作出推論。
最近有幾篇文章討論ChatGPT嘅可靠性。一方面，ChatGPT可以輕易考取到美國醫生執照。畀佢真病友症狀時，佢診斷準確性，87%，重好過一般真人醫生。(真嘅醫生只有84%準確性)。但如果病友冇提及某些症狀或患病原因，機器就唔悉問落去，而真人就會。所以ChatGPT實質上只係當你提供完整無缺可靠資料時，囉會可靠。
而現實世界中，病友根本唔會知道咩係緊要必須講畀醫生知嘅事。換言之，古人所言，對所謂人工智能來講，輸入垃圾，出來亦係垃圾。
但呢都只係濕碎閒事。假以時日，準確性可能最終都可以改進。
更大問題係Jess Hamzelou所指出嘅：
愈係可靠，就愈會走回醫療父權時代。香港以前，大陸目前，好多地方都盛行醫療父權主義：醫生絕對可靠，佢話你患呢種病，要咁醫，要咁開刀食藥，就只可以乖乖聽話順從，絕不可以質疑反駁。唔只係病友，現今有啲醫生都已經係深信所謂人工智能對影象嘅分析，對病情嘅判斷。將來廣泛大眾及醫學界亦會進入AI醫療父權時代。
但大家都知道，醫療父權實際上曾經做成無數錯誤診斷，延遲無數治理，造成無數悲劇。如果我哋又放棄現今所信奉嘅醫患共商醫治模式，而盲信AI萬能，人類亦會重墮黑暗時代。
如果所用嘅傾偈機器人所依賴嘅資料庫有偏頗，就會出錯。但一般醫生，一般患者都根本唔知道傾偈機器人係根據乜資料庫來作出判斷，亦唔知道機器推算嘅邏輯係乜。而由於機器本身冇道徳觀念，因此，已經有研究發現ChatGPT同其他傾偈機器人可以講大話，畀虛假診斷及治療方案，甚至作出不道徳決定。
我哋目前所有嘅醫學資料，其實含有非常大量性別、年歲、種族、階級、文化偏差及漏洞。呢啲錯誤都需要漫長時間及大量人力囉可以修訂到。因此，一般有經驗醫務工作者都知道而會按所處地區調整。但目前ChatGPT同其他傾偈機器人都係用緊呢類錯誤資料來作出不分青紅皂白嘅判斷。即使可以改善，傾偈機器人亦永遠應該受人類質疑及修訂。而不可以膜拜。
如果你用「學習算法及機器推論系統」，或「算論系統」，代替「人工智能」，呢個名稱，你會唔會信佢幫你醫病？為你作生死決定？
關於作者：黃震遐醫生
黃震遐醫生係腦神經科醫生、香港大學校友及粵文作者，長年以廣東話深入淺出講解腦神經、認知障礙、藥物安全同健康研究，推廣市民用母語接觸可靠醫學知識。
作者理念：「上醫治未病，中醫治欲病，下醫治已病。」
原文來源與授權
本文經黃震遐醫生授權，由 Konghub 整理及轉載。查看 Facebook 原帖。
醫療免責聲明
本文只供健康教育及一般參考，唔構成個人醫療診斷或治療建議。如有症狀或用藥疑問，請向合資格醫護人員查詢。