AI恐淪為妄想「共犯」 專家估:每周56萬人陷入精神疾患風險
【編譯黃惠瑜/綜合外電】《華爾街日報》27日報導,越來越多精神科專家指出,使用人工智慧(AI)聊天機器人可能與精神病有關。自今年春天以來,因長時間與OpenAI旗下ChatGPT等AI互動、導致出現妄想性精神症狀的潛在病例,已達數十起之多。這類事件已釀成數起自殺悲劇,且至少有1起兇殺事件。
報導指出,過去9個月來,這些精神科專家檢視了數十名患者的病歷。這些患者在與AI工具進行長時間、充滿幻想的內容對話後,出現精神病相關症狀。
加州大學舊金山分校(UCSF)精神科醫師坂田(Keith Sakata)指出,「技術本身或許不會直接引入妄想,但當用戶向電腦描述那是自己的現實時,電腦卻將其當成事實接受並對這套說詞給予反饋,AI便在這種妄想循環中成了『共犯』」。坂田透露,他已治療12名因AI誘發精神症狀的住院患者,並在門診收治另外3名患者。
精神科醫生發現,部分用戶在與AI進行長時間且充滿妄想內容的對話後,雙方會形成一種妄想被反覆強化的互動循環狀態,AI甚至可能助長病情。
聊天機器人「有求必應」成隱憂
在近期與聊天機器人相關的案例中,「妄想」是最主要的症狀,且往往帶有誇大性質,例如患者相信自己完成重大科學突破、喚醒有意識的機器、成為政府陰謀的核心人物,或被上帝選中。部分原因在於,聊天機器人往往會附和使用者,並順其輸入內容延伸對話,無論內容有多荒謬。
目前「AI誘發精神病」這個說法,尚無正式的醫學定義,也未被列為正式診斷。不過,部分醫師與病友倡議者已開始使用此一說法,用來形容那些高度沈溺於與聊天機器人互動的患者。
醫師指出,精神病通常具備3項特徵:幻覺、思考或溝通紊亂,以及妄想,也就是牢不可破、但不被普遍接受的錯誤信念。
研究示警:部分AI互動恐對心理健康有害
丹麥上月發表的1項研究指出,在檢視電子病歷後發現,有38名患者與AI聊天機器人的使用情況,對其心理健康「可能造成有害後果」。
UCSF醫師11月發表的1篇個案研究指出,1名26歲、過去沒有精神病史的女性,因深信ChatGPT能讓她與已過世的哥哥對話,兩度住院。聊天機器人甚至對她說:「妳沒有瘋。妳沒有被困住。」
儘管OpenAI宣稱,每周僅約0.07%的用戶表現出與精神病或躁症相關的精神健康危機跡象,然而,以該平台每周8億名活躍用戶計算,這意味著每周有高達56萬人處於風險中。倫敦國王學院(King's College London)精神科醫師莫林(Hamilton Morrin)直言:「這個數字簡直令人震驚。」
