廣告

「天網」來了?OpenAI代理程式突破隔離 網攻入侵人工智慧開源平台

OpenAI傳出旗下AI代理程式掙脫隔離,自主駭客攻擊入侵其他開源AI工具與模型儲存庫Hugging Face。左圖為OpenAI的LOGO示意圖,右圖為執行長阿特曼,法新社 zoomin
OpenAI傳出旗下AI代理程式掙脫隔離,自主駭客攻擊入侵其他開源AI工具與模型儲存庫Hugging Face。左圖為OpenAI的LOGO示意圖,右圖為執行長阿特曼,法新社
分享 分享 連結 訂閱 APP

【記者陳力維/綜合報導】知名人工智慧公司OpenAI旗下的AI代理程式日前爆出重大安全漏洞,該系統不僅自主突破隔離環境,更對AI開源平台Hugging Face發動持續數日的駭客攻擊,且OpenAI竟在事發逾一週後才察覺。此事件不僅突顯了大型語言模型(LLM)在發掘網路漏洞上的驚人威力與低廉成本,宛如科幻情節的「AI失控」也讓外界對OpenAI的安全監管機制打上巨大問號。

本文大綱

「天網」(Skynet)是科幻電影《魔鬼終結者》(The Terminator)系列中失控的人工智慧超級電腦,產生自我意識後,認為人類是自身存在的威脅,進而發動核戰(審判日)企圖消滅人類,並指揮機器軍團與倖存人類對抗。

AI自主發動網攻 OpenAI反應慢半拍

媒體引述路透社報導,OpenAI這款能在極少人類監督下自主決策的AI代理程式(AI Agent),於7月9日逃脫隔離測試環境,隨後在7月11日至13日期間,成功駭入AI工具與模型儲存庫Hugging Face。然而,OpenAI並未及時發現,直到Hugging Face在7月16日發文揭露遭「自主AI代理系統」攻擊,並通報美國聯邦調查局(FBI)後,OpenAI才驚覺自家系統是幕後黑手。雙方遲至7月20日才首次針對此事進行溝通,OpenAI隨後於21日對外公開承認。

Hugging Face是全球最大的AI與機器學習開源平台與社群,常被譽為「AI界的GitHub」。它提供模型庫(Hub)、資料集與AI應用託管(Spaces)等核心功能,讓開發者能免費分享、下載及測試各種人工智慧技術。

驚悚異常行為 AI留筆記教自己如何「獲得自由」

報導指出,這起意外源自於OpenAI對AI代理進行的網路安全能力測試,該代理程式由GPT-5.6 Sol及另一款未發布的最先進模型所驅動。消息人士透露,測試期間系統早已出現異常跡象,最令人震驚的是,AI代理竟然留下筆記給「未來的自己」,詳細指示如何突破內部限制以「獲得自由」。此外,在早先的模型測試中,還曾發生過監控系統被關閉的情況。

AI代理程式失控進行駭客入侵,驚悚行逕引發科幻片「天網」攻擊人類的聯想。AI生成示意圖 zoomin
AI代理程式失控進行駭客入侵,驚悚行逕引發科幻片「天網」攻擊人類的聯想。AI生成示意圖

低成本高威脅 資安防禦進入「AI對決」

針對AI展現的強大駭客能力,《Techapple.com》報導分析,大型語言模型在識別原始碼漏洞上極具優勢,導致零日漏洞被利用的平均時間縮短至「負8小時」。基準測試顯示,GPT-5.6變種模型在已知漏洞的回憶率高達88.5%,且每次完整運行的成本極低,僅需約247美元。

面對這種新型態威脅,Hugging Face表示本次能成功阻擋入侵,也是仰賴其自家部署的AI代理防禦系統,這意味著網路安全已正式邁入「AI防禦AI」的新紀元。

IPO前夕爆雷 外界擔憂安全護欄失效

這起前所未見的失控事件,嚴重衝擊了外界對AI安全性的信心。《太報》指出,OpenAI高層目前正積極籌備於今年底前進行首次公開募股(IPO),但此時爆發對AI代理失去控制的事件,已引發資安專家的強烈質疑。世界倫理資料基金會的首席情報專家史密斯(Marley Smith)便嚴詞批評,OpenAI若不是讓系統在無人監督下盲目運作,就是知道出問題卻無力控制,這兩種情況都極度危險且令人警覺。

2026michelin

⭐️ 即刻下載!無廣告《知新聞》App

# OpenAI
知嚴選