「天網」(Skynet)是科幻電影《魔鬼終結者》(The Terminator)系列中失控的人工智慧超級電腦,產生自我意識後,認為人類是自身存在的威脅,進而發動核戰(審判日)企圖消滅人類,並指揮機器軍團與倖存人類對抗。
AI自主發動網攻 OpenAI反應慢半拍
媒體引述路透社報導,OpenAI這款能在極少人類監督下自主決策的AI代理程式(AI Agent),於7月9日逃脫隔離測試環境,隨後在7月11日至13日期間,成功駭入AI工具與模型儲存庫Hugging Face。然而,OpenAI並未及時發現,直到Hugging Face在7月16日發文揭露遭「自主AI代理系統」攻擊,並通報美國聯邦調查局(FBI)後,OpenAI才驚覺自家系統是幕後黑手。雙方遲至7月20日才首次針對此事進行溝通,OpenAI隨後於21日對外公開承認。
Hugging Face是全球最大的AI與機器學習開源平台與社群,常被譽為「AI界的GitHub」。它提供模型庫(Hub)、資料集與AI應用託管(Spaces)等核心功能,讓開發者能免費分享、下載及測試各種人工智慧技術。
驚悚異常行為 AI留筆記教自己如何「獲得自由」
報導指出,這起意外源自於OpenAI對AI代理進行的網路安全能力測試,該代理程式由GPT-5.6 Sol及另一款未發布的最先進模型所驅動。消息人士透露,測試期間系統早已出現異常跡象,最令人震驚的是,AI代理竟然留下筆記給「未來的自己」,詳細指示如何突破內部限制以「獲得自由」。此外,在早先的模型測試中,還曾發生過監控系統被關閉的情況。
低成本高威脅 資安防禦進入「AI對決」
針對AI展現的強大駭客能力,《Techapple.com》報導分析,大型語言模型在識別原始碼漏洞上極具優勢,導致零日漏洞被利用的平均時間縮短至「負8小時」。基準測試顯示,GPT-5.6變種模型在已知漏洞的回憶率高達88.5%,且每次完整運行的成本極低,僅需約247美元。
面對這種新型態威脅,Hugging Face表示本次能成功阻擋入侵,也是仰賴其自家部署的AI代理防禦系統,這意味著網路安全已正式邁入「AI防禦AI」的新紀元。
IPO前夕爆雷 外界擔憂安全護欄失效
這起前所未見的失控事件,嚴重衝擊了外界對AI安全性的信心。《太報》指出,OpenAI高層目前正積極籌備於今年底前進行首次公開募股(IPO),但此時爆發對AI代理失去控制的事件,已引發資安專家的強烈質疑。世界倫理資料基金會的首席情報專家史密斯(Marley Smith)便嚴詞批評,OpenAI若不是讓系統在無人監督下盲目運作,就是知道出問題卻無力控制,這兩種情況都極度危險且令人警覺。




