企業控管落後於人工智慧代理的自主權限

企業正迅速在系統中擴大部署自主人工智慧（AI）代理，但公司的控管與治理框架卻難以跟上腳步。根據安全主管與產業研究的最新報告，企業在建立追蹤、管理及終止其行動所需的系統之前，就已經賦予 AI 代理更高層級的權限。

日益擴大的可見度與控管落差

雖然組織最初主要利用 AI 模型來回答問題，但現代的企業 AI 代理正日益在各個商業系統中做出決策並執行一連串的行動。這種從被動工具轉變為主動代理的過程，暴露出一個根本的安全漏洞：許多企業缺乏基本的盤點，無法得知有哪些 AI 代理正在運作、它們可以存取哪些資料或應用程式，以及當發生錯誤時是否能有效地將其關閉。

安全主管指出，傳統的身份和存取管理系統旨在評估是否應授權使用者或標準軟體應用程式進入系統。然而，AI 代理在獲得存取權限之後，會自主做出決策並執行行動，從而引入了一個複雜的新層面。因此，單單了解代理的數位身份或登入憑證，已不足以判斷某項特定行動是否恰當或符合企業的預期。

過早部署的風險

監督機制的落後拉高了企業面臨安全事件和合規失敗的風險。Workato 的一項報告凸顯了這些部署的不穩定本質，顯示有 36% 的企業領導者寧願私下處理代理引發的安全事件，也不願公開披露。這種猶豫表明，組織可能在他們的治理與監督實務完全建立之前，就得面臨重大的代理相關故障或漏洞利用。

與此同時，IBM 的最新研究強調，必須從根本上重塑治理、控管與信任，以配合代理式 AI（agentic AI）不斷擴展的能力。產業專家主張，企業採納的下一階段將較少取決於公司能夠部署的代理數量，而是取決於管理層能否成功監督已經發放出去的自動化權限。