Satya Nadella 表示 AI 代理需具備 7 道防護機制，因應企業採用熱潮

微軟執行長 Satya Nadella 表示，企業必須將 AI 代理視同人類員工，賦予正式身分、權限系統與稽核軌跡。

隨著業界面臨日益嚴重的治理缺口，急於部署自主 AI 代理的企業必須將其視同人類員工——賦予正式身分、權限系統與稽核軌跡，微軟執行長 Satya Nadella 如此表示。

「組織部署代理的速度，遠快於其治理能力，」Nadella 在接受採訪時表示。「如果你不會讓一名新進員工沒有識別證、沒有權限限制、沒有主管監看紀錄就開始工作，那你也不該讓代理這樣運作。」

微軟本週推出 Microsoft Execution Containers（簡稱 MXC），這是一款作業系統層級的沙盒，能在核心層強制執行代理的邊界。該系統為每個代理指派一個由 Microsoft Entra 支援的本機或雲端佈建身分，將所有行為歸屬於該身分，並讓 IT 管理員明確宣告代理可以存取哪些檔案、目錄與網路資源。微軟在 Build 開發者大會上表示，OpenAI、Nvidia、Manus 與 Nous Research 已開始在其平台上建構應用。

風險相當高。Gartner 研究副總裁 Dennis Xu 本週表示，保護高自主性 AI 代理是「一項未解的挑戰」，越獄與提示注入攻擊仍無法完全防範。安全廠商 Akeyless 的一項調查顯示，84% 的組織表示其 AI 代理能夠存取敏感資料，67% 認為代理已存取過不該存取的資料。

微軟正追蹤的 7 種失效模式

微軟同時更新了其「代理型 AI 系統失效模式分類法」，新增了七類風險。其中包括「代理供應鏈入侵」，即代理行為可能受自然語言影響而非惡意程式碼；「目標劫持」，即對抗性指令看似與合法任務一致，卻在暗中引導代理的終極目標偏離；以及「電腦使用代理視覺攻擊」，即透過圖形介面運作的代理可能被對抗性內容操控。該公司建議安全團隊為每個已部署的代理產生存放軟體材料清單，以加密方式驗證代理身分，並將新的失效模式納入紅隊測試覆蓋矩陣。

為何作業系統層級執法至關重要

微軟的做法有別於蘋果的圍牆花園模式與 Google 的雲端優先策略，其信任層建立在作業系統層級。透過將隔離機制直接內建於 Windows，無論開發者選擇哪一種代理、模型或框架，安全保證都能成立。將於七月推出預覽版的 Agent 365 整合 Microsoft Defender、Entra、Intune 與 Purview，讓 IT 管理員能集中管理代理的隔離機制，同時讓開發者自行選擇工作負載所需的隔離等級。微軟 Windows 與裝置部門執行副總裁 Pavan Davuluri 表示，MXC 所引入的原語——安全性、隔離性、隔離機制與使用者控制——對於讓 AI 代理具備商業可行性至關重要。

對投資人而言，這波治理推動帶來了明確的競爭態勢。微軟正將 Windows 定位為企業 AI 代理部署的信任平台，可能帶動其 Azure 雲端與安全產品的採用。包括 Alphabet 旗下的 Google 與 Amazon 在內的競爭對手，面臨開發同等級作業系統層級隔離機制的壓力。微軟今年以來股價已上漲 18%，部分受 AI 樂觀情緒帶動，目前本益比為 32 倍。分析師表示，真正的考驗將在企業今年稍後開始在生產網路上大規模部署代理時到來。

本文僅供資訊參考，不構成投資建議。