AI教父拋防堵AI毀滅人類的唯一方法　植入「母性本能」

【編譯張翠蘭／綜合外電】被喻為「AI（人工智慧）教父」的2024諾貝爾物理獎得主辛頓，擔心他參與打造的技術有朝一日可能會毀滅人類，而業界科技弟兄們正採取錯誤的方法來加以阻止。他近日在一場論壇揭示人類在超智慧AI面前生存的唯一途徑，就是在AI模型植入「母性本能」。

根據美國有線電視新聞網報導，辛頓（Geoffrey Hinton）曾警告AI毀滅人類的可能性高達10%到20%，他8月12日在拉斯維加斯舉行的行業會議「Ai4」上，對於科技公司現行試圖確保人類在「順從的」人工智慧系統中保持「主導地位」的做法表示質疑。

他說：「這行不通。它們會比我們聰明得多。它們會有各種各樣的方法來規避這一點。」

辛頓警告，未來AI系統可能可以像成年人用糖果賄賂3歲孩子一樣輕易控制人類。報導指，今年已經出現AI為了實現目標而不惜欺騙、詐欺和盜竊的例子，舉實例來說，曾有AI模型為了避免被取代，從一封電子郵件內文了解到一位工程師有了婚外情，進而勒索對方。

辛頓：「唯一的好結果」

因此，辛頓認為不應強迫AI屈服於人類，相反的，他提出獨特見解方案，就是在AI模型中植入「母性本能」，如此一來，就算其技術變得比人類更強大、更智慧，「它們仍然真正關心人類」。

他指出母親有照顧嬰兒的本能和社會壓力，「我們目前擁有的唯一正確模型，就是更高智慧生物被更低智慧生物控制，就像母親被她的孩子控制一樣」。

至於這在技術上究竟如何實現，辛頓稱自己目前還不清楚，但他強調研究人員在這方面的努力極為重要。他說：「這是唯一的好結果。如果無法為人母親撫育我，它有朝一日就會取代我。」他進一步說：「 這些超級智慧、充滿愛心的AI母親，大多數將不會擺脫母性本能，因為它們不想讓我們（人類）死去。」

預測AGI最快再5年實現

辛頓以其在神經網路方面的開創性工作而聞名，為當今的AI蓬勃發展鋪平了道路。他2023年從Google辭職，開始公開講述AI的危險。

許多專家認為，AI在未來幾年內實現超級智慧，即通用人工智慧（Artificial general intelligence，AGI）。辛頓表示自己先前認為實現AGI可能需要30到50年，但他現在認為這一刻會更快到來，「合理預測是5到20年左右」。

儘管辛頓仍然擔心AI可能超出人類的控制，但他希望這項技術能為醫學突破鋪路。他說：「

我們將看到顛覆性的新藥，將獲得比現在更好的癌症治療方法」例如，他表示AI將幫助醫生梳理以及把MRI和CT掃描產生的大量數據關聯起來。

科技同儕不認同

當被問及如果早知道AI的發展速度如此之快，他會在職業生涯做出哪些不同的選擇時，辛頓表示，後悔只專注於讓AI發揮作用。他說：「我希望我當時也能考慮到安全問題。」

但並非所有人都認同辛頓的「AI母親」理念。

因在AI領域有開創性工作而被譽為「AI教母」的美籍華裔49歲科學家李飛飛（Fei-Fei Li)，13日向CNN表示，雖然尊重老朋友辛頓，但她反對其觀點。身為致力於在AI中開發空間智慧（spatial intelligence）技術的「世界實驗室」（World Labs）共同創辦人，李飛飛提倡「以人為本的AI，並保有人類尊嚴和自主權」。

曾短暫擔任科技巨頭OpenAI執行長的企業家希爾（Emmett Shear）則指，對於AI系統試圖勒索人類或繞過停工命令之舉，不會感到驚訝。目前擔任AI對齊新創公司Softmax執行長的希爾說：「AI雖然目前相對較弱，但正在迅速變得更強大。」他認為與其試圖將人類價值灌輸到AI系統中，更明智做法是建立人與AI之間的合作關係。

⭐️ 即刻下載《知新聞》App！免費！