廣告
快訊
KNEWS
⚡
微軟AI執行長警告「看似有意識」的AI 即將到來 恐導致嚴重後果
【財經中心／台北報導】外媒TechRadar今日報導，微軟AI執行長蘇萊曼（Mustafa Suleyman）警告稱，即使只是鼓勵人們相信AI有意識，也可能帶來嚴重後果。
蘇萊曼稱，所謂「表面有意識的AI」（Seemingly Conscious AI，SCAI）可能很快就表現得、聽起來都特別逼真，以至於用戶難以分辨虛幻與現實。
他表示，AI正迅速發展到足以在情感上說服人類，讓人誤以為它有感知能力。AI 能模擬記憶、情緒鏡像甚至表面共情，使人們傾向於把它當作有意識存在對待。一旦發生這種情況，局面將會一團糟。
與聊天機器人長期互動可能產生妄想信念
蘇萊曼寫道，「看似有意識的AI的到來既不可避免，也不受歡迎。我們需要的是一種AI設想，它可以成為有用伴侶，同時不陷入幻覺。」
IT之家引述報導指出，蘇萊曼表示，愈來愈多案例顯示，使用者與聊天機器人長期互動後可能產生妄想信念。他警告，如果大量人被誤導去倡導AI公民身份，而忽視真正的技術問題，將帶來反烏托邦的社會風險。 「我最擔心的是，許多人會過分相信AI具備意識，從而倡導AI權利、模型福利甚至AI公民身份。這將成為AI發展中的危險轉折，需要立即關注。」
應開發優先與人類和現實世界互動的AI
蘇萊曼預測，結合大語言模型、語音表達、記憶與聊天記錄的SCAI 系統可能在幾年內出現，且不僅來自科技巨頭，也可能出現在擁有API和優質提示的任何開發者手中。同時他強調，AI產業應避免使用助長機器意識幻覺的語言，不應將聊天機器人擬人化或暗示其理解或關心人類。
他說，「我們應開發優先與人類和現實世界互動的AI，同時確保AI始終呈現為AI，在最大化實用性同時，最小化意識特徵。我們必須避免製造『意識模擬』的AI，它不應聲稱擁有體驗、感受或情緒，例如羞愧、內疚、嫉妒或競爭欲，也不應透過聲稱受苦或希望自主生存來觸發人類共情。」
