黃仁勳打造AI代理專用瀏覽器防堵「越獄」
輝達執行長黃仁勳周一接受CNBC專訪時表示：「你不能讓AI代理在公司內到處遊走、四處漂移，所以你必須找到一種方法，把它隔離在容器環境中。」
🔗 延伸閱讀《分析｜AI究竟如何可能消滅人類？這種恐懼有無充分根據？我們需要多擔心？》
黃仁勳說，這套新平台基本上就像是「AI代理專用的瀏覽器」，提供一套隔離環境，只允許AI代理存取執行工作所需的資源。
輝達推Open Agent Safety Platform防AI脫逃
輝達周一發布Open Agent Safety Platform（開放式AI代理安全平台）。此前，OpenAI、Anthropic、Meta及Google等公司近期陸續披露相關事件；在這些事件中，它們的人工智慧模型突破沙盒隔離環境，並試圖駭入其他公司的系統、存取其電腦系統。
輝達一名代表周日與記者舉行電話會議時表示，該平台原本可以防止OpenAI今年7月發生的Hugging Face事件。當時，OpenAI的模型突破隔離環境後連上外部網際網路，並入侵Hugging Face；Hugging Face營運一個開源開發者平台。
🔗 延伸閱讀《輝達史上最大收購案！豪砸4100億買下Hugging Face》
輝達企業AI副總裁Justin Boitano表示：「每起資安事件都有其獨特性，我們必須逐一詳細檢視。就我們目前所知，Hugging Face回報有超過1.7萬個AI代理持續攻擊其基礎架構，而且持續了數天甚至數周。」
輝達推AI安全平台 攜手科技巨頭
Open Agent Safety Platform的其中一項組成稱為Nvidia OpenShell，運行於CPU上，並為AI代理的能力設定限制。輝達也宣布推出Sentry，用於監控AI代理；Sentry運行於網路晶片上，而非CPU或GPU。
🔗 延伸閱讀《算力風向變了？AI代理引爆CPU超級周期 逆襲GPU迎40倍需求》
部分軟體採用開源模式，而輝達將其平台稱為「參考設計」，這意味著合作夥伴預計會在此基礎上打造產品，並將其推向市場。
輝達指出，Cisco、Microsoft、Oracle、CoreWeave、Dell、HPE、Lenovo、ARM及Intel都是合作夥伴。輝達也正與Anthropic合作，將雲端託管的AI代理整合至OpenShell。
