近期，全球網路資安領導廠商趨勢科技宣布與NVIDIA擴大合作，共同為NVIDIA在GTC大會上發布的開源代理式AI執行環境「NVIDIA OpenShell」強化資安能力。此舉旨在應對代理式AI系統在自我規劃與執行過程中可能衍生的新型資安風險，確保企業能以更安全、可控的方式導入這項顛覆性技術。
代理式AI：資安新格局與潛在風險
傳統人工智慧的資安模型，多半圍繞在使用者與模型之間短暫的互動模式進行設計。不過，隨著代理式AI的崛起，這種運作模式正被徹底改寫。代理式AI系統具備自我規劃、採取行動並與其他工具互動的能力，且能長期運作並在多種環境中自我進化，其風險特徵與傳統AI截然不同，對既有資安框架構成全新挑戰。
趨勢科技企業事業群營運長金敬秀便指出，代理式AI正全面改變資安的公式。當AI系統能夠自主決策並執行任務時，其潛在威脅也隨之複雜化，可能涵蓋未授權存取、隱藏行為、提示詞注入，以及非預期系統存取等面向。這些新型態的風險，要求資安防護必須從系統核心層級進行思考與建置。
金敬秀表示：「代理式AI正在改變資安的公式。當AI系統能夠自我規劃、採取行動並與其他工具互動時，其風險特徵將與傳統AI截然不同。與NVIDIA的合作，將安全直接嵌入核心架構，幫助企業以所期望的可視性與控制力來採用代理式AI。」
NVIDIA OpenShell：內建安全的協作框架
為應對這些前所未有的資安挑戰，NVIDIA與趨勢科技的深度合作顯得格外關鍵。NVIDIA OpenShell作為一個開源的執行環境，專為支援長期運行且具備自我進化能力的AI代理而設計。儘管這類自主AI代理能大幅提升生產力，但其內在的複雜性也帶來了管理與監控上的難題。
NVIDIA策略性企業合作夥伴副總裁Pat Lee強調，代理式AI開啟了能夠自我規劃、推理與執行的新應用時代。透過與趨勢科技的緊密合作，NVIDIA旨在將資安能力直接內建於OpenShell的核心架構之中，從源頭確保自主AI的運行安全。這不僅能幫助開發者導入必要的可視性與管控機制，也為企業規模化部署代理式系統奠定堅實基礎。
這項合作不僅止於OpenShell本身，更延伸至NVIDIA AI Q藍圖與NVIDIA NeMo Agent Toolkit，確保在企業環境中擴展的代理式系統，能具備一致性的安全性、治理能力與可觀測性。這意味著從開發到部署，整個代理式AI的生命週期都將獲得周全的資安防護。
NVIDIA策略性企業合作夥伴副總裁Pat Lee則提到：「代理式AI開闢了能夠自我規劃、推理與執行的新應用，透過與趨勢科技的合作，能幫助開發者引入可視性與管控機制，讓自主AI的運行變得更加安全。」
企業導入自主AI的關鍵考量與未來展望
對於有意導入代理式AI的企業而言，資安已不再是事後補強的選項，而是必須從設計之初就加以考量的核心要素。NVIDIA與趨勢科技的策略性合作，正提供了這樣一種「內建安全」的解決方案，讓企業能在享受代理式AI帶來的高效率與創新之餘，同時有效降低潛在的資安風險。
這項合作為企業部署自主AI代理提供了清晰的路徑，主要優勢包含：
- 強化資安防護：將安全機制直接嵌入AI核心，有效防堵新型威脅。
- 提升透明度與控制力：賦予企業對代理式AI行為的全面可視與管控能力。
- 加速創新應用：降低資安疑慮，鼓勵企業更積極地探索和應用代理式AI技術。
- 確保合規性與治理：透過一致性的安全藍圖，協助企業符合產業規範與內部治理要求。
話說回來，隨著AI技術日新月異，資安挑戰也將持續演進。NVIDIA與趨勢科技的合作，不僅為當前的代理式AI安全樹立了新標竿，也預示著未來AI安全防護將走向更深層次的整合與主動防禦模式。這項前瞻性的布局，對於推動全球AI生態系的健全發展，無疑具有深遠的意義。
About the Author
