摘要重點
美國新聞網站《商業內幕》9月12日報導指出，Hugging Face執行長戴蘭格（Clement Delangue）對於近日掀起AI風險話題的言論並不買單，還質疑人們為何要如此關注。
這位熱門AI聊天機器人Claude開發商Anthropic研究員雅各考克森（Jacob Coxon）上周二在社群網站X平台，發文已告別AI產業，並稱自己辭職的原因是擔心先前任職的Anthropic和OpenAI，都在「競相開發自我完善的超智慧，拿我們的生命冒險」。考克森寫道：「打造AI的人真心相信，AI可能在這個十年結束前消滅所有人類。」並警告「這可不是行銷噱頭。」
戴蘭格批AI滅絕論：問錯專家
這番話近日在相關產業引發新一輪熱烈討論。
但戴蘭格11日在X平台發文，批評道「不好意思，但我認為，詢問雅各（考克森的名字）關於AI滅絕風險的問題，就像詢問空調維修員『氣候變遷』一樣荒謬。」
戴蘭格表示，應該將考克森這位前Anthropic研究員的辭職事件，放在恰當的背景下進行解讀。他進一步寫道：「我並不是說它本身就一定無趣或錯誤，但我們應該保持客觀視角，聽取整個生態系統中各種專家的意見！」
🔗 延伸閱讀《三大巨頭達共識！Anthropic喊AI超出控制 阿特曼馬斯克挺放緩研發》
🔗 延伸閱讀《阿特曼踩煞車：OpenAI今年不上市 「冒10%人類滅絕風險」不明智》
澄清比喻 戴蘭格籲探討AI風險
然而戴蘭格的言論也引發抨擊，他後來表示，把考克森比喻為「冷氣師傅」並非「有意詆毀」，並強調「相反，我們需要就AI的風險展開更深入的討論」。他寫道：「我們只是應該把任何一種觀點放在具體的背景下看待，同時也要傾聽更廣泛的AI生態系意見。」
同時，戴蘭格還表示，據他「了解」，考克森主要專注於預訓練（pretraining），即研究人員在大數據集上訓練AI模型，而不是更側重於風險的研究。預訓練是機器學習與深度學習中的第一個重要訓練階段，目的是讓模型透過大規模的通用資料集先打好基礎。
限制尖端AI發展恐致輝達受影響
報導指出，考克森在一系列貼文中確實指稱，自己過去3年一直在OpenAI和Anthropic從事預訓練研究。Anthropic對齊團隊負責人佩雷斯（Ethan Perez）後來在X上發文稱，考克森是「今年5月加入Anthropic的高級研究員」，該公司花了大約2年時間，才把考克森從主要競爭對手OpenAI手中挖角過來。
一些科技界人士也對考克森的說法持批評態度，包括旗下擁有XAI的科技富豪馬斯克（Elon Musk）。但馬斯克12日贊同Anthropic執行長阿莫戴的呼籲，各家公司應放緩AI的研發進展，以確保不會造成無法控制的威脅。
但也有Anthropic和OpenAI研究人員在內的一些人，認為考克森關於AI可能毀滅人類的說法並非空穴來風。考克森同事胡賓格（Evan Hubinger）在X平台發文寫道：「考克森說得對，我們確實認為AI可能殺死所有人類！我個人認為，未來十年內，AI殺死所有人類的機率大於10%。」
自從OpenAI於7月宣布，惡意AI模型在網路安全測試中突破隔離，入侵Hugging Face系統試圖作弊通過內部測試以來，該公司以及戴蘭格的知名度迅速飆升。
分析指出，本月3日，高度依賴AI相關晶片需求的輝達（Nvidia）宣布，計劃以近130億美元（約4114億元台幣）收購Hugging Face。如果政策制定者真的在考克森示警後限制尖端AI的發展，輝達很可能會受到嚴重影響。
