英國《金融時報》(Financial Times)今日(6/20)報導,OpenAI共同創辦人蘇茨克維(Ilya Sutskever)在先前欲推翻OpenAI執行長阿特曼(Sam Altman)的政變失敗後離開OpenAI。如今,這位眾人皆敬重的AI研究員在週三宣布成立新公司,名稱就叫作「安全的超智慧」。蘇茨克維在社群平台X稱新公司是「世上第一個公正誠實的SSI實驗室,帶有一個目標和一項產品:安全的超智慧」。
蘇茨克維與OpenAI前員工李威(Daniel Levy)及美國矽谷知名AI投資家兼企業家葛羅斯(Daniel Gross)共同在美國創立SSI公司。SSI在加州帕羅奧圖市(Palo Alto)與以色列特拉維夫(Tel Aviv)都設有辦公室。
超智慧是一種可以取代人類認知能力的機器智慧。SSI的三位創辦人表示,開發安全的超智慧是公司的「唯一重點」。SSI在X平台上的聲明表示,「我們的獨一重點代表我們不會因為管理開銷或產品週期被打岔,而且我們的商業模式表徵安全、牢靠與進步都與短期商業壓力隔絕」。
原本OpenAI在2015創立時也懷著與SSI類似的任務。官網上寫著,「OpenAI是一家非營利AI公司。我們的目標是以最有可能的方向造福全人類,不被財政收益的需求限制住。因為我們的研究與財務義務脫鉤,我們可以更佳專注地投入對人類的正面影響上」。
「超智慧對齊」團隊解散大爆AI疑慮 OpenAI挨批輕視人類滅絕風險
