AI, 사이버 킬체인 전복…기술 생태계 '보안 침해 암흑기' 직면

지난 20년간 수십억 달러 규모로 성장한 사이버 보안 산업이 존립의 위기에 직면했다. Cognition의 최고보안책임자(CSO)이자 Stanford University 사이버 정책 센터 강사인 Alex Stamos에 따르면, 오픈웨이트(open-weight) 인공지능 모델과 자동화된 공격 도구의 부상으로 디지털 세계가 보안상의 '암흑기'로 내몰리고 있다.

IT 전문 매체 The Verge의 'Decoder' 팟캐스트에 출연한 Stamos는 사이버 방어의 경제성과 운영 아키텍처가 완전히 뒤흔들렸다고 주장했다. 기존의 컴퓨터 보안이 사람이 직접 취약점을 찾아내고 패치를 배포하는 느린 과정에 의존했던 반면, AI 시스템은 거의 모든 '킬체인(kill chain)'을 실시간으로 자동화해 버렸다는 설명이다.

전복된 사이버 킬체인

역사적으로 고도화된 사이버 공격을 감행하려면 막대한 리소스가 필요했다. 엘리트 연구원들이 취약점을 발견하고 익스플로잇 코드를 작성하는 데 수개월을 보냈으며, 이를 작전 팀이나 국가 지원 해킹 조직이 표적을 상대로 배포하는 식이었다. 아마추어 수준인 '스크립트 키디(script kiddies)'부터 소수의 최정상급 취약점 연구원에 이르기까지 존재했던 이러한 위계질서가 급격히 무너지고 있다.

Stamos는 "지난 한 달간 PHP, Node 등에서 대형 취약점이 잇따라 발생했다. 하지만 그보다 덜 논의된 사실은 엄청난 수의 기업이 이미 침해당했다는 점"이라고 설명했다. 공격자들은 이제 여러 벤더에 걸쳐 익스플로잇을 연쇄적으로 활용하고 있다. AI 서비스 제공업체인 Fireworks에 침투해 탈취한 API 키로 Cursor에 접근한 뒤, 이를 이용해 악성 플러그인을 배포함으로써 5,000여 개 고객사에 피해를 입힌 사례가 대표적이다.

Stamos는 GitHub에 공개된 중국산 프레임워크인 ARTEX와 같은 오픈소스 도구를 지목했다. Apple Mac Studio 워크스테이션이나 소비자용 게이밍 PC 같은 로컬 하드웨어에서 구동되는 탈옥된(obliterated) GLM-5.3과 같은 오픈웨이트 모델과 결합할 경우, 이 시스템들은 표적을 자율적으로 스캔하고, 취약점을 찾아내며, 안정적인 익스플로잇을 동시에 작성할 수 있다. 최근 이러한 역량을 활용한 공격 캠페인은 한국의 3개 은행을 침해한 데 이어 일주일 만에 약 200개 기관을 추가로 타격했다.

AI 익스플로잇의 비대칭적 경제학

이번 변화의 본질은 경제적인 문제에 있다. 공격자 입장에서는 토큰당 한계 비용이 거의 0으로 수렴하고 있어 소규모 팀이나 개인 공격자도 자율형 공격 에이전트를 지속적으로 구동할 수 있다. 반면 방어 비용은 감당하기 힘들 정도로 높은 수준에 머물러 있다. Stamos는 주요 보안 플랫폼의 프론티어 모델을 사용해 단 한 건의 사고 조사를 진행하는 데 건당 최대 900달러가 소요될 수 있다고 지적했다. 쉼 없이 쏟아지는 자동화 탐침 공격을 막아내기에는 불가능에 가까운 비용이다.

게다가 국가 지원 해커들은 자동화 기술과 더불어 특화된 침투 경로를 여전히 적극적으로 공략하고 있다. Stamos가 '인류 역사상 최대 규모의 강탈'로 꼽은 최근의 Binance 침해 사고는 자동화된 스크립트 도구가 아닌, 고도화된 인적 첩보(휴민트)와 사회공학 기법을 활용한 북한 해킹 조직에 의해 발생했다. 한편, '가내수공업형 침투 산업(cottage access industry)'에 종사하는 소규모 중국 외주업자들은 표적을 해킹한 후 대형 자국 기업에 침투 경로(액세스 권한)를 판매하고 있다.

땜질식 처방을 넘어서: 인프라 재작성의 필요성

Stamos는 기술 업계가 단순한 패치 적용만으로는 이 같은 환경을 벗어날 수 없다고 경고했다. Mythos, Astra Cyber와 같은 프론티어 모델들은 기반 오픈소스 코드베이스 전반에서 이전에 숨겨져 있던 수천 개의 취약점을 찾아내며 긴급 업데이트의 끊임없는 굴레를 만들어내고 있다.

구형 C 언어 코드를 끝없이 수정하는 대신, Stamos는 클라우드 대기업들이 다음과 같은 구조적인 조치를 취해야 한다고 촉구했다.

• 자율적 교정(Autonomous remediation): 조직은 AI 에이전트가 결함을 식별하고, 광범위한 테스트 스위트를 작성하며, 코드를 메모리 안전(memory-safe) 및 타입 안전(type-safe) 언어로 직접 리팩터링하는 자동화된 버그 수정 방식으로 전환해야 한다.

• 핵심 인프라 재작성: Stamos는 Google과 Amazon이 협력해 엔터프라이즈 클라우드 인프라를 위한 Linux 커널을 포크하고 이를 Rust로 재작성해야 한다고 요구했다. 불필요한 레거시 드라이버를 제거하고 메모리 안전 아키텍처로 전환하면 글로벌 서버 인프라에 혼란을 초래하는 반복적인 커널 수준 패치 주기를 완화할 수 있다는 것이다.

• 결정론적 제한이 적용된 자율형 SOC: 보안관제센터(SOC)는 페타바이트 규모의 네트워크 로그를 분석하기 위해 계층화된 AI 에이전트를 도입해야 한다. 다만 오탐으로 인해 회사 전체 서비스가 마비되는 사태를 방지하려면, Okta와 같은 신원 확인 시스템에서 AI가 비활성화할 수 있는 계정 수에 상한을 두는 등 방어 에이전트에 엄격한 결정론적 제약(deterministic constraints)을 부여해야 한다고 경고했다.

향후 90일, 선제적 방어에 나서야 할 때

기업 리더들에게 수동적인 위험 관리는 더 이상 유효하지 않다. Stamos는 모든 기업이 향후 90일 이내에 자사 인프라를 대상으로 AI 레드팀(모의 침투) 도구를 가동해야 하며, 그렇지 않으면 불가피한 침해 사고를 맞닥뜨리게 될 것이라고 경고했다.

Stamos는 "지금 당장 공격을 시도하고 있는 악의적 공격자들보다 앞서 나가기 위해 스스로 적극적인 레드팀 활동을 감행하는 위험을 감수해야 한다"고 말했다. 궁극적으로는 자율적 교정과 메모리 안전 설계를 통해 방어 역량이 성숙해지겠지만, 당면한 미래에 살아남기 위해서는 급격히 빨라지는 자동화 위협의 속도에 기업들이 신속히 적응해야 한다는 설명이다.