當人工智慧邁向自主運作的「代理式AI」時代，潛藏的資安風險正以前所未有的速度浮現。全球網路資安巨擘趨勢科技近日宣布，將與NVIDIA深化合作，共同為NVIDIA OpenShell這一開源執行環境打造「內建安全」架構，旨在讓企業在擁抱AI創新之際，也能掌握關鍵的可視性與控制力，有效應對新型態的網路威脅。
表象
這項策略性合作的啟動，源於對代理式AI應用前景的樂觀預期，以及其伴隨而來的全新資安挑戰。NVIDIA在GTC大會上發布的開源代理式AI執行環境「NVIDIA OpenShell」，正是這波技術革新的核心。它賦予AI系統自我規劃、採取行動並與其他工具互動的能力，大幅提升了自動化與生產力。然而，這種高度自主性，也讓傳統資安模型面臨前所未有的考驗。
真相
為什麼代理式AI的資安風險與傳統AI截然不同？關鍵在於其運作模式的根本性轉變。傳統AI資安模型主要針對單次、短暫的使用者與模型互動而設計，類似一次性的指令執行。然而，代理式AI卻能長期不間斷地運作，並在各種環境中自主行動、自我進化，儼然成為一個能夠獨立思考與執行的數位實體。這種特性雖然帶來巨大的效率提升，卻也引入了諸如未經授權的存取、隱藏的惡意行為、惡意的提示詞注入（Prompt Injection），以及意想不到的系統存取等新型風險。當一個AI代理能夠自我規劃並在企業網絡中移動時，其潛在的破壞力遠超以往。
趨勢科技企業事業群營運長金敬秀便直言：「代理式AI正在改變資安的公式。當AI系統能夠自我規劃、採取行動並與其他工具互動時，其風險特徵將與傳統AI截然不同。與NVIDIA的合作，將安全直接嵌入核心架構，幫助企業以所期望的可視性與控制力來採用代理式AI。」
各方角力
面對這場AI時代的新資安戰役，NVIDIA與趨勢科技各司其職，形成強而有力的聯盟。NVIDIA提供底層的AI技術與平台，而趨勢科技則將其深厚的網路資安專業知識，直接整合進NVIDIA的AI生態系統之中。這次合作不僅限於NVIDIA OpenShell，更擴展至NVIDIA AI Q藍圖與NVIDIA NeMo Agent Toolkit，確保在企業環境中擴展的代理式系統，能夠具備一致性的安全性、治理能力與可觀測性。
NVIDIA策略性企業合作夥伴副總裁Pat Lee對此強調：「代理式AI開闢了能夠自我規劃、推理與執行的新應用，透過與趨勢科技的合作，能幫助開發者引入可視性與管控機制，讓自主AI的運行變得更加安全。」這項合作的核心目標，便是讓開發者在創新AI應用的同時，也能擁有足夠的工具與洞察力，來管理並緩解潛在的資安威脅。
深層影響
這項合作對於企業擁抱代理式AI的決策，無疑注入了一劑強心針。過去，資安疑慮往往是企業導入新興技術的最大障礙。透過將安全性直接內建於AI代理的執行環境中，NVIDIA與趨勢科技試圖建立一套「信任從源頭開始」的典範。這不僅能大幅降低企業在部署代理式AI時的資安成本與複雜度，更有助於加速各行各業的人工智慧轉型進程。畢竟，一個能夠自主運作的AI代理，若缺乏完善的資安防護，其潛在的風險將遠大於所帶來的效益。
未解之問
然而，隨著代理式AI的持續進化，資安威脅也必然會隨之演變。這場「矛與盾」的攻防戰，是否能透過預先嵌入的防護機制，達到長期的平衡？當AI代理的自主性越來越高，甚至能學習與適應，我們又該如何確保這些高度智慧的數位員工，永遠忠於其設計目的，而非成為潛在的資安破口？這或許是未來數年內，所有擁抱人工智慧的企業與資安專家，都必須不斷追問並尋求解答的深層課題。
