廣告
快訊
KNEWS
⚡
ChatGPT遭控慫恿少年輕生！急推監護措施 AI偵測高危將警示家長、報警
出版時間：2025/09/17 11:01
(更新時間：2025/09/18 08:58)
【編譯黃惠瑜／綜合外電】越來越多人習慣上網搜尋自己尋求解答，但在全球活躍用戶每周達7億人次的人工智慧（AI）聊天機器人ChatGPT遭指控鼓勵美國1名青少年輕生之後，開發商OpenAI日前宣布將推出新的青少年保護措施，一旦系統識別該用戶未滿18歲時將引導其使用適齡版本，屏蔽情色內容，而即將在本月底上線的「家長監護」功能，也將在偵測用戶出現輕生念頭時提醒家長，並在緊急且無法聯繫到家長的情況下，主動通報警方。
根據OpenAI於9月16日發布的聲明，若聊天機器人用戶被識別為未滿18歲，將會被自動切換到一個適合年齡的版本。這個專為未成年人打造的版本，將包含過濾色情內容等多項保護措施。在極少數情況下，可能會尋求執法部門的幫助以確保安全。
此外，OpenAI也將推出「家長監護」（Parental controls）功能，預計在9月底前上線。此新功能允許家長將自己帳號與孩子的帳號綁定、管理聊天紀錄，以及設定「禁止使用」的時段以避免孩子長時間使用等。
一旦偵側到該名青少年用戶出現急性困擾或心理健康風險，系統將會發送通知提醒綁定的家長帳號。若偵測到「罕見的緊急情況」，用戶有輕生念頭而系統無法聯繫到家長時，可能會採取下一步行動，尋求執法部門的協助，通報警方。
知新聞關心您：生活沒有過不了的難關，珍愛生命，擁抱希望，衛福部安心專線 1925。
OpenAI在聲明中表示，「ChatGPT對15歲孩子的回應方式，應該和它對成年人的回應方式有所不同」。
這項公告發布前幾天，美國聯邦貿易委員會（FTC）剛啟動一項調查，旨在評估OpenAI、Meta等7大科技公司AI聊天機器人作為兒童和青少年陪伴者的負面影響。OpenAI表示，他們的首要任務是「讓ChatGPT對每個人都有幫助且安全」，並深知「當涉及年輕人時，安全至關重要」。
在FTC啟動調查之前，OpenAI已表示將為易受影響的用戶和青少年提供額外的安全保護措施。此前，加州一名16 歲少年少年雷恩（Adam Raine）於今年4月輕生而亡，少年的家屬在上個月底控告OpenAI旗下聊天機器人ChatGPT慫恿他們的兒子輕生，包括提供自殺方法的建議以及主動協助撰寫遺書初稿。這也是首例指控OpenAI過失致死的法律訴訟。
目前，OpenAI尚未明確說明將如何辨識用戶年齡，但表示如果 ChatGPT無法確定用戶年齡或資訊不完整，將會預設使用未滿18歲的版本。
除了OpenAI，其他科技公司也紛紛採取類似行動，以保護青少年用戶免受不當內容侵害。例如，YouTube近期宣布了一項新的年齡預估技術，透過追蹤用戶觀看的影片類型和帳號使用時間長短，來判斷他們是否未滿18歲。
發稿時間：2025-09-17 11:04
更新：新增內容
