교황 레오 14세, UN에 치명적 자율 AI 무기 금지 촉구

교황 레오 14세가 금요일 연설을 통해 다음 달 제네바에서 열리는 유엔 회의에서 유엔 회원국들이 치명적 자율 무기 금지를 위한 구체적인 조치를 취할 것을 촉구했다. 교황은 인공지능(AI) 시스템을 인간이 아닌 도구로 정의하며, 군사 및 의사결정 영역에서 AI 기술의 '무장 해제'를 주장했다.

교황 레오 14세에 따르면, 인간은 인공지능의 활용을 "이끌고, 변화시키며, 필요한 경우 거부할" 근본적인 책임을 지고 있다.

인격체가 아닌 도구로서의 기계

이번 연설은 교황 레오 14세가 지난 5월 발표한 첫 주요 교황청 문서에서 제시한 원칙을 한층 확장한 것이다. 당시 문서의 핵심 주제는 "인공지능 시대의 인간 보호"였다.

교황 레오 14세는 연설 내내 AI 시스템에 법적 인격이나 권리를 부여하는 것에 대해 경고했다. 그는 "기계는 도구일 뿐 인격체가 아니다"라고 선언하며, 인간의 생존과 자유, 물리적력 행사에 관한 중대한 결정이 소프트웨어에 완전히 위임되어선 안 된다고 덧붙였다.

교황 레오 14세는 "인간의 삶과 자유, 무력 사용에 영향을 미치는 결정은 항상 실질적이고 정보에 입각하며 책임감 있는 인간의 감독 하에 있어야 한다"고 강조했다.

이러한 입장은 통제되지 않는 AI 기술에 대해 교황청이 지속해 온 비판의 연장선에 있다. 2024년 프란치스코 교황 역시 "어떤 기계도 인간의 생명을 빼앗는 선택을 해서는 안 된다"며 자율 무기에 대한 국제적 금지를 촉구한 바 있다.

역사적 맥락과 글로벌 거버넌스

교황 레오 14세는 자신의 교황명 선택이 현대 기술 변화에 대응해야 하는 교회의 필요성을 반영한다고 설명했다. 이는 산업혁명의 사회적·경제적 혼란 속에서 가톨릭 교회를 이끌었던 교황 레오 13세와의 직접적인 역사적 평행선을 보여준다.

현대 AI의 위험에 대응하기 위해, 교황 레오 14세는 국제 기구들이 강력한 거버넌스 기준을 마련함으로써 글로벌 공동의 이익을 보호할 것을 촉구했다. 그는 독립적인 감독, 공유되는 국제적 기준, 그리고 명확한 책임 규명 메커니즘을 제안했다. 이러한 체계는 AI 개발과 관련된 결정을 공식적으로 검토하고 이의를 제기하며, 피해가 발생할 경우 이를 수정할 수 있도록 하는 데 필수적이라고 언급했다.