Google DeepMind, Signal의 암호화 코어 4주 만에 검증하는 ‘AlphaProof Code’ 공개

Google DeepMind가 소프트웨어가 오류 없이 보안 사양을 엄격히 충족하는지 수학적으로 검증하도록 설계된 인공지능(AI) 시스템인 AlphaProof Code를 공개했다.

연구진은 기술력을 입증하기 위한 주요 시연으로 보안 메신저 애플리케이션인 Signal의 암호화 프로토콜을 검증하는 데 이 기술을 활용했다. AlphaProof Code는 보통 인간의 노력으로 수년이 걸리는 Signal의 핵심 암호화 코드에 대한 형식 검증(formal verification)을 단 4주 만에 완료했다.

실제 코드를 대규모로 검증

DeepMind 연구원인 Pushmeet Kohli와 Swarat Chaudhuri에 따르면, 기존의 형식 검증 시도는 이론적 설계 단계에 머무르는 경우가 많았다. 반면 AlphaProof Code는 사용자 기기에서 직접 실행되는 실제 암호화 코드를 검증함으로써 한 단계 더 나아갔다.

이 시스템은 Google의 Gemini Carbon 기반으로 구축된 AI 에이전트에 의존한다. 인간 전문가가 형식적인 보안 요구사항을 정의한 후, AI 에이전트는 명세서 작성을 돕고 Lean 증명 언어로 600만 줄 이상의 형식 증명을 생성하여 소프트웨어가 해당 조건을 만족한다는 것을 독립적으로 입증했다.

이 과정에서 AI는 코드베이스의 약 1%를 인간이 검토해야 할 항목으로 표시했다. 신뢰성을 평가하기 위해 연구진은 테스트 목적으로 코드베이스에 의도적으로 버그 2개를 심어두었으며, AlphaProof Code는 두 버그를 모두 즉시 잡아냈다.

핵심 기반 시설로 확대 적용

Signal 프로토콜의 성공적인 검증은 민감한 디지털 시스템의 보안을 확보하는 데 있어 AI의 역할이 커지고 있음을 보여준다. Signal의 최고기술책임자(CTO)인 Ehren Kret은 위협 환경이 진화함에 따라 이러한 검증 방식이 데이터 개인정보 보호에 대한 신뢰를 강화하는 데 도움이 된다고 언급했다.

향후 Google DeepMind는 CodeMender와 같은 시스템을 활용하여 형식 검증 방법론을 메신저 애플리케이션을 넘어 의료 기기 및 전력망과 같은 실제 주요 기반 시설로 확대 적용할 계획이다.