開源軟體是全球經濟的重要支柱
輝達說明，開源軟體是全球經濟的重要支柱，透過讓專家社群得以存取與檢視相關技術，開源軟體可為雲端運算、金融服務、製造、電信、政府與網際網路服務提供堅實的基礎。
資安是開源軟體的三大受益領域之一。開放安全人工智慧（AI）聯盟（Open Secure AI Alliance）承襲 Linux Foundation 的 Akrites 計畫領導成果與 OpenSSF 社群工作，將運用開放技術修復並揭露漏洞。
正如開源技術為軟體建立共享基礎，美國及其合作夥伴如今在 AI安全面臨一項選擇：用於保護基礎設施的防禦能力，究竟該置於少數不透明的系統之中，還是要建立在任何防禦人員都能研究、調整與部署的開放模型、執行框架與工具之上。
全球同時需要封閉與開放的模型
在資安領域，開放模型與開放的harness至關重要，因為它們能普及防禦能力、提高防禦人員的透明度、在保護資料的同時支援網路防禦，並透過可客製化、在地化的控制機制，與前沿的封閉模型相輔相成。開源技術可建立大規模分散式、社群驅動且自主掌控的防禦體系，且不存在單點故障。
如同任何強大的技術，開放模型也可能遭到濫用，包括企圖削弱防護機制，或將其能力轉用於網路攻擊。然而，這些風險並非開放系統所獨有，而是所有部署先進 AI 的環境都必須加以管理。
近期發生的Hugging Face資安事件帶來明確提醒：資安防禦人員需要開放且前沿的代理型系統進行自我防禦。當封閉AI工具無法區分攻擊者與防禦人員，因而阻擋必要的鑑識分析時，Hugging Face便在其自有基礎設施上執行開放權重GLM 5.2模型，分析超過17,000
項操作並遏止入侵。
這起事件揭示一個現實真相：當防禦人員無法在自有基礎設施上檢視、調整與執行先進 AI 時，在分秒必爭的關鍵時刻，其應變能力會受到限制。企業與國家需要開放且前沿的防禦工具與技術，讓關鍵產業能在多供應商生態系中建構安全系統，並避免單點故障。
這正是開放安全 AI 聯盟的使命：確保各地防禦人員都能擁有值得信賴且可自主掌控的開放前沿工具。
30家企業創開放安全AI聯盟
來自雲端運算、資安、企業軟體、開源基金會與AI研究領域的領導者，包括輝達、Adobe、Cadence、Capital One、思科、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、戴爾科技集團、DoorDash、Elastic、慧與科技、Hugging Face、IBM、LangChain、Linux Foundation、微軟、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、西門子、Snowflake、SpaceXAI、新思科技、Thinking Machines Lab與TrendAI，皆為開放安全AI聯盟的首批合作夥伴。這項行動旨在開發並分享開放技術、方法與工具，以在AI時代保障軟體與代理的安全。
有些觀點主張，開放模型本質上較不安全，因為它們可能遭用於網路攻擊，或被修改以移除防護機制。這些風險確實存在，但在封閉系統中同樣不會消失。單純不公開模型權重，也無法阻止意圖堅決的攻擊者尋求或利用強大的AI。
正確的應對之道，並非拒絕讓防禦人員使用具備強大能力的開放系統，而是結合開放性與完善的防護措施、明確禁止惡意濫用的規範、嚴謹評估及迅速的補救措施。在資安領域，更安全的途徑是讓更多防禦人員具備測試、驗證並強化社會所倚賴系統的能力。
防禦人員需要前沿封閉模型與前沿開放模型協同運作，才能依據任務選擇合適的系統，並確保在安全需求所及之處，均能具備透明度、適應性及主權控制。
開放研究強化資安與AI安全
AI代理不只是一個語言模型，而是由模型、harness與防護機制所構成的複雜系統。真正的AI安全與保障，仰賴完整的代理堆疊，包括身分、權限、harness、防護機制、記錄與評估，而不只取決於模型權重是開放或封閉。開放式的harness與工具，能讓許多防禦人員更容易檢視、測試與改善這些控制機制。
輝達正為開放安全AI聯盟貢獻開放模型、模型權重、資料，以及全新的代理harness研究，以加速開發全新資安工具與技術。
全新的開源專案NVIDIA Labs Object-Oriented Agent（NOOA）現已於GitHub上線，讓代理harness更容易運用先進AI安全功能。NOOA研究框架使harness與模型更緊密整合，進而更輕鬆地對代理行為進行測試、追蹤、稽核與管控。
在整個聯盟中，貢獻者們正共同為代理打造開放的防禦堆疊，涵蓋身分識別與隔離、安全模型格式、多模型掃描，以及安全的程式設計工作流程。
