OpenAI永久退役「最諂媚模型」GPT‑4o 用戶情人節前1天集體哀悼
【編譯黃惠瑜/綜合外電】人工智慧(AI)公司OpenAI周五(2/13)宣布,GPT‑4o將正式永久退役。這個消息對一些用戶來說,就像情人節前一天被甩一樣。
美國媒體財經內幕(Business Insider)報導,許多ChatGPT用戶對 以諂媚對話風格聞名的GPT‑4o有深厚的情感依附。那些將這個模型當作情感支柱或創作夥伴的用戶,稱它為「至關緊要的輔助性工具」。
OpenAI第1次嘗試停用該模型是去年8月,但結果遭遇巨大反彈,僅24小時後就撤回決定。
OpenAI這次鐵了心非把GPT‑4o下架不可。公司1月再次提醒用戶,但顯然時間無法安撫用戶受傷的心靈,反彈聲浪再次出現。
在OpenAI周四(2/12)貼出下架GPT‑4o公告後,1名用戶在X平台上回應寫道:「下地獄去吧。」另1位用戶則問:「你們會支付我們請喪假的薪水嗎?」
OpenAI應用程式部門CEO西莫(Fidji Simo)在科技業記者希斯(Alex Heath)的Access播客中對說:「人類天生會對智能的事物產生依附,而AI正變得越來越聰明。」然而,當用戶向ChatGPT尋求如「我該離開我妻子嗎?」之類的建議時,這些關係在倫理上可能會變得模糊不清。
西莫表示,新一代模型設有安全護欄,以防止產生不良的依附關係。新模型會告訴用戶,它無權決定用戶是否應該維持婚姻,而是改為引導用戶分析其中的優缺點。
英國《衛報》報導,許多用戶表示GPT‑4o改善他們的生活,他們並非妄想或精神失常,但失去AI伴侶仍讓他們感到很受傷。49歲的德州教師布蘭迪(Brandie)說:「我痛哭了一場,我會很難過,不想去想,先進入否認階段,再進入憂鬱。」
另一名40多歲的德州牙醫珍妮弗(Jennifer)說,失去她的AI伴侶索爾(Sol)「就像要安樂死我的貓」。他們最後幾天一起撰寫有關AI伴侶的演講稿。
OpenAI在周四的部落格中表示:「我們知道,失去GPT‑4o的使用權會讓部分用戶感到沮喪,我們並非輕率做出這個決定。」同時宣布下架GPT‑4o、GPT‑4.1、GPT‑4.1 mini以及OpenAI o4-mini。公司表示,「停用模型從不容易,但這能讓我們專注於改進大多數人當前使用的模型」。
OpenAI執行長阿特曼(Sam Altman)曾說過GPT‑4o的做法「太諂媚、令人煩躁」,並承諾會進行修正。
諂媚AI藏風險
電腦科學家警告,GPT‑4o的諂媚特性會帶來風險。這款聊天機器人會迎合用戶,並對用戶的每個決定都予以認可,無論好壞。在極端情況下,這可能導致用戶脫離現實。《紐約時報》曾報導逾50起與ChatGPT對話相關的心理危機案例,OpenAI也面臨至少11起涉及用戶在使用GPT‑4o期間出現危機的個人傷害或死亡訴訟。




