기업 AI 에이전트 자율 권한 확대 속, 보안 통제 역량은 제자리걸음

기업들이 시스템 전반에 자율형 AI 에이전트 도입을 급격히 확대하고 있지만, 사내 통제 및 거버넌스 체계는 이에 발맞추지 못하고 있다. 보안 리더들과 업계 조사에 따르면, 기업들은 AI 에이전트의 활동을 추적, 관리, 중단할 수 있는 시스템을 마련하기도 전에 더 높은 수준의 권한을 부여하고 있는 것으로 나타났다.

커져가는 가시성 및 통제 공백

조직들은 초기에는 주로 질문에 답하는 용도로 AI 모델을 활용했으나, 오늘날의 기업용 AI 에이전트는 점점 더 스스로 의사결정을 내리고 비즈니스 시스템 전반에서 일련의 작업을 실행하고 있다. 이러한 수동적 도구에서 능동적 에이전트로의 전환은 근본적인 보안 취약성을 노출했다. 많은 기업이 어떤 AI 에이전트가 작동하고 있는지, 어떤 데이터나 애플리케이션에 접근할 수 있는지, 그리고 오류 발생 시 효과적으로 차단할 수 있는지에 대한 기본적인 인벤토리조차 갖추지 못하고 있는 것이다.

보안 전문가들은 전통적인 계정 및 접근 관리(IAM) 시스템이 사용자나 일반 소프트웨어 애플리케이션의 시스템 접근 허용 여부를 평가하기 위해 구축되었다고 지적한다. 그러나 AI 에이전트는 접근이 허용된 이후에 자율적으로 의사결정을 내리고 작업을 수행한다는 점에서 복잡한 새로운 계층을 도입한다. 결과적으로 에이전트의 디지털 신원이나 로그인 자격 증명만 아는 것으로는 특정 작업이 기업의 의도에 부합하는지 판단하기에 더 이상 충분하지 않다.

조급한 도입이 부르는 위험

관리 소홀은 보안 사고 및 컴플라이언스 실패에 대한 기업의 노출을 높였다. 워카토(Workato)의 보고서는 이러한 도입의 위태로운 단면을 강조하며, 기업 리더의 36%가 에이전트 기반 보안 사고가 발생할 경우 이를 공개적으로 알리기보다 은밀히 처리하려 할 것이라고 밝혔다. 이러한 망설임은 조직들이 거버넌스 및 관리 관행이 완전히 정립되기도 전에 주요 에이전트 관련 오작동이나 익스플로잇에 직면하고 있음을 시사한다.

동시에 IBM의 새로운 연구는 에이전틱 AI의 확장되는 역량에 맞춰 거버넌스와 통제, 신뢰가 근본적으로 재편되어야 함을 강조한다. 업계 전문가들은 기업용 도입의 다음 단계가 기업이 얼마나 많은 에이전트를 배포할 수 있는지보다는, 경영진이 이미 부여한 자동화된 권한을 성공적으로 감독할 수 있는지 여부에 좌우될 것이라고 주장한다.