기업 AI 예산, 연산 비용 급증에 2027년 '현실 자각' 직면

인프라 비용 상승과 예측 불가능한 가격 모델

시장조사업체 포레스터(Forrester)가 10월 21일 발표한 보고서에 따르면, 2027년 인공지능(AI)이 전체 기업 기술 지출의 약 20%를 차지할 것으로 전망된다. 이 수치는 모든 일반 기업이 예산의 5분의 1을 AI에 할당한다는 의미라기보다 기술 공급업체들의 인프라 투자를 포함한 것이지만, 업계 전반의 중대한 재정적 변화를 시사한다.

최고정보책임자(CIO)들이 직면한 예산 압박에 대해 브라이언 홉킨스(Brian Hopkins) 포레스터 애널리스트는 이러한 지출 증가의 거의 대부분이 서버, 칩, 클라우드 서비스, 파운데이션 모델 접근 및 소프트웨어 구독을 포함한 인프라와 컴퓨팅 용량에 의해 주도되고 있다고 언급했다.

생성형 AI는 기업의 소프트웨어 구매 방식도 변화시키고 있다. 기존에는 조직이 연간 애플리케이션 비용을 예측하고 그에 맞춰 예산을 편성할 수 있었다. 하지만 생성형 AI와 자율 에이전트는 토큰 기반 소비, 사용량 기반 요금 및 크레딧 제도를 도입하며 이러한 예측 가능성을 무너뜨렸다. 이제 AI 에이전트의 운영 비용은 작업의 복잡성과 이를 실행하는 데 필요한 원시 컴퓨팅 성능에 따라 변동된다.

기업의 자금 조달처와 지출을 줄이지 말아야 할 분야

기업 소프트웨어 지출 성장세가 인플레이션보다 느린 상황에서 늘어나는 AI 지출을 감당하기 위해, 조직들은 IT 운영 전반에서 비용 절감을 모색하고 있다. 기업들은 서비스 제공업체가 AI를 통해 얻은 효율성 개선 효과를 고객에게 환원해야 한다고 주장하며 외부 IT 서비스 계약에 대해 더 낮은 가격을 요구하고 있다. 또한, 제3자 비용을 줄이기 위해 소프트웨어 개발, 지원 및 고객 서비스 기능을 다시 사내로 가져오고 있다.

그러나 홉킨스는 다음과 같은 핵심 분야의 지출을 줄이는 것에 대해 경고했다.

• 사이버 보안: 보안은 비용 센터로 취급되어 투자가 지연되는 경우가 많았다. 하지만 악의적인 행위자들이 전례 없는 규모로 취약점을 스캔하고 악용하기 위해 AI 에이전트를 사용함에 따라 리스크가 급격히 고조되고 있다.

• 레거시 핵심 인프라: 전사적자원관리(ERP) 플랫폼이나 Salesforce와 같은 고비용 시스템을 현대화하려는 결정은 자주 미뤄져 왔다. 해결되지 않은 이러한 인프라 요구 사항이 이제 급증하는 AI 비용과 충돌하고 있다.

'신뢰세' 탐색과 ROI의 재정의

기업의 에이전트형 AI 도입에는 포레스터가 '신뢰세(trust tax)'라고 부르는 숨겨진 운영 비용이 수반된다. 자율 에이전트를 배포하는 것은 단순히 작업을 자동화하는 것만큼 간단한 일이 아니다. 조직은 테스트 및 레드팀(red-teaming) 활동, 가드레일 구축, 지속적인 모니터링 구현, 거버넌스 검토를 포함한 중앙 집중식 레지스트리 유지 관리, 외부 파트너나 고객과 상호 작용할 때의 에이전트 신원 확인 등을 위한 예산도 편성해야 한다.

홉킨스는 또한 기업 리더들이 주로 단기적인 생산성 향상에만 집중함으로써 AI의 재정적 수익을 잘못 계산하는 경우가 많다고 지적했다. 포레스터는 AI의 재정적 성과를 세 가지 시간 지표로 구분한다.

1. 생산성(단기): 고객 이메일 작성이나 지원 사례 해결과 같은 일상적인 작업에서 절약된 시간을 측정한다. 추적하기 쉽고 흔히 보고되는 지표지만, 단순한 생산성 향상이 실제 비즈니스 실적에 미치는 영향은 상대적으로 낮다.

1. 참여도(중기): 고객 및 직원과의 상호 작용을 개선하여 거래를 용이하게 하고, 고객 만족도를 높이며, 상호 작용 빈도를 증대시킨다.

1. 혁신(장기): 비즈니스 프로세스를 재고하고, 제품 출시를 가속화하며, 새로운 수익원을 창출하거나 경쟁사보다 먼저 시장에 진입하여 지속적인 경쟁 우위를 확보한다.

2028~2029년의 격차에 대비한 투자 우선순위 설정

장기적인 가치를 확보하기 위해 포레스터는 CIO들이 보안, 데이터, AI 플랫폼이라는 세 가지 핵심 투자 우선순위에 집중할 것을 권고한다. 세 가지 기둥이 모두 완벽해질 때까지 도입을 미루기보다는, 에너지 기업이 AI 배포를 배럴당 비용, 생산 효율성, 작업장 안전과 같은 성과 목표와 직접 연결하는 것처럼 명확한 비즈니스 지표와 연계된 AI 전략을 수립해야 한다.

도전적인 2027년을 향해 나아가면서 기업에는 강력한 거버넌스, 재무 운영(FinOps) 규율, AI 에이전트 접근에 대한 명확한 통제가 필요할 것이다. 홉킨스는 격차가 벌어질 것으로 예상했다. AI를 단순한 기본 생산성 도구로만 보는 조직은 비용이 증가함에 따라 투자를 철회할 가능성이 높은 반면, 참여와 비즈니스 혁신을 전략적으로 목표로 삼는 기업은 지속적인 자금을 확보할 것이다. 이러한 시장 양극화의 완전한 재정적 영향은 2028년에서 2029년 사이에 명확하게 드러날 것으로 예상된다.