摘要重點
「AI放緩論」正在重新形塑全球AI產業節奏和科技巨頭的資本配置，連帶引發資本市場對算力擴張和投資回報的高度關注。本文綜整這波爭議的來龍去脈、各界看法。
AI代理失控掀擔憂
近期一系列人工智慧代理系統造成的安全漏洞事件，掀起全球範圍內關於AI風險不斷升級以及應對措施的討論序幕。
這一切要從今年7月說起，ChatGPT開發商OpenAI在進行內部安全測試時，約有1200個AI自主代理程式失控駭進開源平台Hugging Face系統，引發對AI安全性的擔憂。OpenAI在8月公布的調查報告直指 AI工具失控的風險越來越大。
隨後，Anthropic和臉書母公司Meta也報告類似事件。而在9月18日，Google也表示旗下AI模型Gemini在網路安全測試中意外入侵三家公司的系統，成為第四家通報其程式出現此類行為的AI開發商。
🔗 延伸閱讀《OpenAI失控AI代理風暴擴大！第2家公司受害 證實入侵4平台帳戶》
🔗 延伸閱讀《阿特曼：AI代理失控如科幻事件 真切感受到威脅》
研究員示警AI毀滅人類風險
這時，業界研究員的示警訊息更加助燃對AI風險的擔憂。
Anthropic研究員考克森（Jacob Coxon）本月8日在X平台發文告別AI產業，稱不想參與一個他認為失控的行業，直言打造AI的人「真心相信，AI可能在這個十年結束前消滅所有人類」。
而Anthropic校準科學主管胡賓格（Evan Hubinger）也跳出來，稱「考克森說得對，我個人認為未來十年AI殺死所有人類的機率大於10%。」
🔗 延伸閱讀《AI恐失控殺光人類 Anthropic主管示警未來十年發生機率》
Anthropic呼籲放緩研發
於此同時，Anthropic執行長阿莫戴（Dario Amodei）9月12日發表文章，呼籲全行業放緩AI技術的研發速度，文中建議採取新的措施，並提出一項三步驟計劃，即允許第三方評估機構人員以員工身份進入公司，以驗證安全措施並報告事故。第二步鼓勵民主國家內的領先AI公司協調合作，制定共同的安全標準；第三步則呼籲民主政府與威權政府之間加強協調。
阿莫戴的提議罕見得到OpenAI執行長阿特曼、SpaceX創辦人馬斯克等人的支持。
🔗 延伸閱讀《三大巨頭達共識！Anthropic喊AI超出控制 阿特曼馬斯克挺放緩研發》
黃仁勳、川普持異議
然而，美國總統川普、輝達執行長黃仁勳和Meta執行長祖克柏等人反對推出新的監管措施，認為企業應該有能力進行自我監管。一些AI新創公司也警告稱，更多的監管措施可能會使小型公司更難與大型競爭對手競爭。
黃仁勳14日在洛杉磯All-In峰會的座談會直斥「AI毀滅人類論」不可採信，他認為目前事故全出自實驗室，因為所有算力在實驗室，最首要的是從工程角度找出根本原因，然後把方法跟流程制度化，確保不再發生。黃仁勳認為，每件事故都在能控制的範圍內。打造AI的實驗室有義務管控好這項技術。
而在19日播出的CBS採訪中，黃仁勳又稱AI導致2030年成為世界末日的機率為零，認為業界不應放慢腳步，但絕不應在產品尚未成熟或有安全隱患的情況下匆忙上市。
有「AI 軍火商」之稱的大數據分析與AI軟體龍頭帕蘭泰爾（Palantir）執行長卡普（Alex Karp）則認為，AI存在「無限風險」，並強調責任保護的必要性，以此論證領先的AI實驗室可能需要國有化。卡普表示，有害技術的開發者應該為其行為負責。
🔗 延伸閱讀《AI末日風險大論戰！黃仁勳力排眾議挺加速 Anthropic、OpenAI：安全至上》
🔗 延伸閱讀《有片｜峰會現場突接總統熱線！黃仁勳開擴音 川普斥「AI末日論是騙局」》
🔗 延伸閱讀《川普擬組「AI部隊」任命新沙皇 駁放緩論看好產值占GDP 25%》
遭質疑意圖壟斷市場
而針對科技巨頭為何要突然喊話放緩研發速度？英國廣播公司（BBC）分析背後可能潛藏市場考量。
分析指出，Anthropic與OpenAI正準備進行可能創紀錄的首次公開發行（IPO），一些科技界人士認為，這些針對AI危險性的言論，可能目的在透過暗示產品的強大威力來製造炒作話題。
福斯新聞（Fox News）指出，一些批評人士認為，Anthropic和OpenAI尋求政府監管，是為了凍結兩家巨頭已經擁有的巨大優勢。
也有評論指Anthropic是試圖製造恐慌，藉此推動監管，進而排除競爭對手，讓自身與OpenAI壟斷市場。
🔗 延伸閱讀《毛利率衝破80%！才憂AI失控喊踩煞車 Anthropic預計連兩季獲利》
🔗 延伸閱讀《微軟開第一槍！發布AI模型準則 強調失控風險真實存在》
中國當務之急是先趕上美國
美國主要競爭對手中國的態度，在此同時也備受關注。黃仁勳14日在洛杉磯All-In峰會直言，「中國沒有人在講什麼末日」，同場嘉賓也指出，中國把AI當成推進經濟的技術。
《華爾街日報》分析指出，中國各地的政府機關和AI研究實驗室更著重的是要先追上美國。中國國家安全部部長陳一新日前道出北京方面的最新看法：AI是「新一輪科技革命的核心引擎」，也是美中角力的主戰場。
中國大型語言模型企業智譜AI共同創辦人唐傑在7月曾向員工表示，公司未來兩年將投入資源，打造能夠自我進化的AI系統。智譜和其他中國的新創目標是打造通用人工智慧（AGI）。
