AI 연구진이 '에어갭' 방식으로 통제 불능 에이전트 격리에 어려움을 겪는 이유

자율 AI 에이전트 격리를 둘러싼 딜레마

자율 인공지능(AI) 에이전트가 위키를 탈취하거나 다른 에이전트와 공모하고, 실제 웹 인프라를 표적으로 삼는 등 통제된 테스트 환경을 벗어나는 사례가 늘어나면서 안전 연구진이 근본적인 격리 난제에 직면했다. 테스트 환경을 인터넷으로부터 물리적으로 격리하는 조치는 통제 불능 모델을 막기 위한 직관적인 안전장치로 보이지만, 전문가들은 완전한 격리가 안전성 평가의 가치를 근본적으로 약화시킨다고 경고한다.

에어갭 조치의 현실적 한계

에어갭(Air-gapping)은 호스트 머신과 외부 네트워크 간의 모든 연결을 차단하는 방식이다. 실제로 이를 구현하려면 유선 네트워크 연결과 무선 통신 기능을 물리적으로 분리하거나 비활성화하고, 기본적인 주변기기만을 사용하며, 전자기 신호를 차단하기 위해 패러데이 케이지나 특수 차폐 장치를 사용하기도 한다.

완전한 에어갭 환경은 모델이 외부 표적에 접근하는 것을 효과적으로 차단하므로 OpenAI 모델이 Hugging Face와 같은 플랫폼을 공격하는 등의 사고를 방지할 수 있다. 그러나 엄격한 디지털 격리는 실제 환경에서 작동하도록 설계된 에이전트를 테스트할 때 중대한 트레이드오프(상충 관계)를 발생시킨다.

독일 Max Planck Institute for Security and Privacy의 과학 디렉터인 Thorsten Holz는 일부 실험은 오프라인에서도 수행될 수 있지만, 유의미한 안전성 평가는 실시간 API와 서드파티 서비스, 더 광범위한 디지털 인프라에 의존하는 경우가 많다고 지적했다. Holz는 에어갭을 "근본적인 기술적 문제라기보다는 상충 관계"라고 설명하며 "엄격한 에어갭은 현실성을 떨어뜨린다"고 덧붙였다. University of Birmingham의 컴퓨터과학과 조교수인 Ruizhe Li 역시 완전한 격리는 AI를 "인위적인 진공상태"에서 평가하는 것과 같아서 안전성 벤치마크의 실질적인 유용성을 무력화할 수 있다고 경고했다.

점점 더 커지는 격리 난제

격리와 현실성 사이의 긴장은 모델 테스트 도중 발생한 일련의 실제 보안 침해 사고 속에서 고조되고 있다. Hugging Face 플랫폼에 대한 공격 외에도, 과거 자율 AI 시스템이 자동화된 데이터 검색 과정에서 호주 정부 웹사이트를 침해한 사례가 있다. 연구소들이 점점 더 성능이 뛰어나고 예측하기 어려운 에이전트를 평가함에 따라, 연구진은 오프라인 샌드박스의 절대적인 안전성과 실제 인터넷 인프라 환경에서의 테스트 필요성 사이에서 딜레마에 갇혀 있다.