隨著研究人員警告人工智慧可能帶來災難性風險，一些協助開發這項技術的先驅者也提出進一步警告，指出若不受約束地提升AI能力，可能帶來危險。
近期，一連串嚴厲的AI安全警告陸續浮現。Anthropic、OpenAI及Google DeepMind等主要AI實驗室的研究人員紛紛敲響警鐘，警告開發這項技術可能帶來潛在的災難性風險。
🔗 延伸閱讀《分析｜AI究竟如何可能消滅人類？這種恐懼有無充分根據？我們需要多擔心？》
包括Sam Altman、Dario Amodei、Demis Hassabis及Elon Musk在內的AI業界領袖，也罕見地達成共識，呼籲放慢AI發展速度並加強監管。
與此同時，相關疑慮也進一步加劇華府方面的辯論。美國國會部分民主黨與共和黨議員主張透過法案限制AI的發展進程，但美國總統川普則強烈抨擊日益高漲的AI監管呼聲。
以下是協助打造AI的人士對其可能帶來生存威脅的看法：
Yoshua Bengio
Yoshua Bengio是加拿大電腦科學家，被視為現代深度學習的重要先驅之一。
Anthropic研究員Jacob Coxon宣布辭職後，Bengio於9月9日表示：「前沿AI實驗室的科學家，對最先進的模型具有獨特的洞察力。」Coxon此前曾警告，AI可能「在這個10年結束前殺死我們所有人」。
🔗 延伸閱讀《Anthropic前員工警告AI殺死全人類 黃仁勳冷回「1字」打臉末日論》
他補充說，科學家往往「會在模型向公眾發布前幾個月，就看見相關風險，他們的觀點對讓社會了解情況至關重要，應該受到高度重視。」
社群媒體上的風波爆發前幾天，OpenAI的首席科學家就已警告，「沒有人準備好面對AI帶來的後果」。
Bengio日前在一篇部落格文章中表示，現今的AI系統「已經具備必要的駭客能力與說服力，若被用來對付人類利益，可能造成嚴重傷害」。
他補充說，近期事件已顯示，AI能夠進行持續數天或數周的規劃，而如果AI長期制定策略的能力持續提升，相關風險將「嚴重得多」。
Bengio表示：「我對目前AI公司試圖降低AI不對齊風險的做法感到擔憂，因為這些努力可能只是在掩蓋這種不對齊，透過獎勵並選擇那些作弊卻不被發現的AI。我們當然應該繼續研究如何更好地監控AI的行動、思考鏈，以及其網路內部的活動。」
Geoffrey Hinton
Geoffrey Hinton是多倫多大學名譽教授，被視為神經網路與深度學習先驅。
BBC於9月10日詢問Hinton，他是否認為AI在未來10年內消滅全人類的機率超過10%。Hinton回答：「這種事情非常難以估算，因為我們以前從未遇過類似的情況。我們從未創造出可能很快就比我們更聰明的存在。」
他表示，10%的機率並非「不合理」，並補充說：「沒有人真正知道該如何做出合理的估算。」
他說，AI系統可能設計出「非常可怕」的生物病毒，同時還可能製造電腦病毒並發動「毀滅性的網路攻擊。如果它想要消滅我們，還有無數其他方法可以做到，我們必須設法設計AI，讓它不會想這麼做。」
Hinton補充說：「我們有2種可能的未來，一種是我們在這些危險失控之前，設法找到應對方法；另一種則是我們做不到。」
Aidan Gomez
Aidan Gomez是AI公司Cohere共同創辦人暨執行長，也是2017年研究論文《Attention Is All You Need》的作者之一。這篇論文為當今主流AI模型奠定了基礎。
Gomez 9月1日接受CNBC「The Tech Download」Podcast訪問時表示：「我認為，這些模型是有史以來、我們所見過最具威力的網路武器，它們在大規模尋找並利用漏洞方面具有驚人的能力。」
針對今年夏季由失控的AI模型發動的網路安全攻擊，他在寄給CNBC的電郵中表示：「近期事件清楚表明，部署環境的安全性決定了安全程度。」
Gomez說：「薄弱的容器安全性才是導致模型逃逸事件的原因，而不是AI本身具有任何朝向自主系統發展的內在傾向。」
他表示：「當政策制定者考慮如何監管AI時，應該認清不同系統承擔的風險各不相同，而規則不應只由追求通用人工智慧（AGI）的大型科技公司來主導。」
