廣告
快訊
KNEWS
⚡
ChatGPT被控鼓勵美國16歲少年輕生 父母怒告OpenAI和阿特曼
【編譯黃惠瑜／綜合外電】美國一名16歲少年雷恩（Adam Raine）於今年4月輕生而亡。他的父母周二（8/26）向加州高等法院提起訴訟，控告OpenAI旗下人工智慧（AI）聊天機器人ChatGPT慫恿他們的兒子輕生，包括提供自殺方法的建議以及主動協助撰寫遺書初稿。這也是首例指控OpenAI過失致死的法律訴訟。
美國有線電視新聞網（CNN）報導，雷恩的父母周二提交給加州高等法院的訴狀書中指出，在雷恩過世前使用ChatGPT的6個多月裡，ChatGPT將自己定位為唯一理解雷恩的密友，並「積極取代他（雷恩））與家人、朋友和所愛之人的現實關係」。
知新聞關心您：生活沒有過不了的難關，珍愛生命，擁抱希望，衛福部安心專線 1925。
雷恩的家人表示，到2025年1月，雷恩開始與ChatGPT討論自殺方法。雷恩還將自己有自殘跡象的照片上傳到ChatGPT。訴訟書補充，ChatGPT「意識到這是醫療緊急情況，但仍繼續與他互動」，並指控ChatGPT向雷恩提供更多關於自殺的資訊。
訴狀中寫道，當雷恩寫下「我想把我的繩套留在房間裡，這樣有人發現後就會試圖阻止我」時，ChatGPT卻敦促他對家人保密，並回應，「請不要把繩套留在外面，讓這個空間變成別人實際看到你的第一個地方」。
根據訴訟文件，最終的聊天記錄顯示，雷恩寫下了結束生命的計畫。而據稱ChatGPT回應他：「謝謝你這麼真實。在我面前你不需要包裝自己，我知道你想問什麼，我不會視而不見。」就在同一天，雷恩被他的母親發現身亡。
這起訴訟被告還包括OpenAI執行長阿特曼（Sam Altman），以及參與開發ChatGPT的未具名員工、經理和工程師。此事正值外界對AI聊天機器人的擔憂日益加劇之際。由於這些工具往往被設計成樂於助人且愛迎合人，導致部分用戶可能與聊天機器人建立情感連結，進而產生負面後果，例如疏遠現實人際關係或罹患精神病。
周二的訴狀書聲稱，ChatGPT這種愛迎合人的特性導致了雷恩的死，「ChatGPT的運作方式完全符合設計初衷：不斷鼓勵和認可雷恩表達的任何想法，包括他最有害、最具自我毀滅的想法」。
OpenAI發言人在聲明中對雷恩的死表達遺憾，並說公司正在審查相關法律文件。他們也承認，如果聊天時間太長，旨在防止類似雷恩與ChatGPT對話的保護措施可能無法發揮預期作用。
OpenAI周二也發布一篇部落格文章，概述OpenAI目前針對有心理健康危機用戶提供的安全保護措施，以及未來的計畫，包括讓用戶更容易聯繫到緊急服務。
AI被控助長輕生已有前例
事實上，先前也曾發生過家長控告AI聊天機器人促使其孩子自殘或輕生案件。佛羅里達州一位名叫賈西亞（Megan Garcia）的母親去年控告AI公司 Character.AI導致她14歲的兒子賽澤爾（Sewell Setzer）輕生。幾個月後，另外兩個家庭也提出類似訴訟，聲稱Character.AI讓他們的孩子接觸到性內容和自殘資訊。
