AIエージェントの自律的権限拡大に企業統制が追いつかず、セキュリティリスクが浮上

企業はシステム全体で自律型AIエージェントの導入を急速に拡大しているが、企業の統制やガバナンスフレームワークは、そのペースに追いつくのに苦慮している。セキュリティリーダーや業界調査の最近の報告によると、企業はAIエージェントの行動を追跡、管理、停止するために必要なシステムを確立する前に、より高いレベルの権限を付与しているという。

拡大する可視性と制御のギャップ

組織は当初、AIモデルを主に質問への回答に利用していたが、現代の企業向けAIエージェントは、ビジネスシステム全体で意思決定を行い、一連の行動を実行するようになっている。この受動的なツールから能動的なエージェントへの移行は、根本的なセキュリティ脆弱性を露呈させている。多くの企業は、どのAIエージェントが稼働しているか、どのデータやアプリケーションにアクセスできるか、エラー発生時に効果的にシャットダウンできるか、といった基本的なインベントリを欠いているのだ。

セキュリティリーダーは、従来のIDおよびアクセス管理システムが、ユーザーや標準的なソフトウェアアプリケーションがシステムへのアクセスを許可されるべきかを評価するために構築されたと指摘する。しかし、AIエージェントは、アクセスが許可された後に自律的に意思決定を行い、行動を実行することで、複雑な新たな層を導入する。その結果、エージェントのデジタルIDやログイン認証情報を知るだけでは、特定の行動が適切であるか、企業によって意図されたものであるかを判断するには不十分となっている。

時期尚早な導入のリスク

監視の遅れは、セキュリティインシデントやコンプライアンス違反に対する企業の脆弱性を高めている。Workatoのレポートは、これらの導入の不安定な性質を浮き彫りにしており、企業リーダーの36%が、エージェントが引き起こしたセキュリティインシデントを公表するよりも、静かに処理しようとすると明らかにしている。このため、組織はガバナンスと監視体制が完全に確立される前に、エージェント関連の重大な誤動作や悪用に対処している可能性がある。

同時に、IBMの新たな調査は、エージェント型AIの拡大する能力に合わせて、ガバナンス、統制、信頼を根本的に再構築する必要があると強調している。業界の専門家は、企業導入の次の段階は、企業が展開できるエージェントの純粋な数よりも、経営陣がすでに付与した自動化された権限をうまく監督できるかどうかにかかっていると主張している。