샘 올트먼 "AI 모델 신격화하거나 인간의 판단 위임해선 안 돼" 경고

샘 올트먼(Sam Altman) OpenAI 최고경영자(CEO)가 인공지능(AI)을 둘러싼 종교적 해석과 영적 비유에 대해 적극적으로 선을 긋고 나섰다. 그는 AI 모델에 신적인 권위를 부여하는 것은 실질적인 위험을 초래한다고 경고했다.

올트먼은 X를 통해 사람들이 "AI 모델에 종교적 힘을 부여하거나 인간의 판단력을 AI에 넘겨주는 행위"를 볼 때 "매우 불편하다"며, 이러한 경향을 "실질적인 안전 문제(real safety issue)"라고 규정했다.

AI와 신앙을 둘러싼 입장 변화

올트먼의 이번 발언은 AI 업계 전반에서 종교계와의 접점을 넓혀가는 가운데 나왔다. 이는 경쟁 AI 연구소인 Anthropic이 종교 지도자들과의 접촉에 나섰다는 The New York Times의 심층 보도와 함께, "알고리즘에는 인간성의 불꽃이 결여되어 있다"고 밝힌 교황 레오 14세(Pope Leo XIV)의 발언 직후 나온 것이다.

OpenAI 역시 과거 종교 지도자들과 논의를 진행한 바 있다. 그러나 현재 올트먼의 회의적인 태도는 그가 과거에 보여준 수사와 비교해 눈에 띄는 변화를 보여준다. 그는 2023년과 2024년에 OpenAI의 목표를 "하늘에 마법 같은 지능을 구축하는 것(magic intelligence in the sky)"이라고 자주 표현했다. 또한 같은 시기, AI 개발을 진전시키며 자신은 신의 편에 서기를 바라며 "천사의 편에 서 있다(on the side of the angels)"고 느끼고 있다고 언급하기도 했다.

시스템의 인간화 vs 신격화

올트먼은 모델에 종교적이거나 신격화된 지위를 부여하는 것에는 분명히 선을 긋고 있지만, 깊은 정서적 교감과 소통 능력을 갖춘 시스템의 구축은 지속적으로 강조하고 있다.

올트먼은 SF 영화 Her에 등장하는 인공지능을 자신의 벤치마크로 거듭 지목하며, 고도로 인간화된 인터페이스를 지지해 왔다. 사람과 같은 대화 방식을 갖춘 동반자를 만드는 것은 소프트웨어를 무오류의 존재나 신적인 지능으로 대하는 것과는 분명 구별된다. 그러나 정서적 유대를 형성하는 기계를 개발하는 동시에 사용자가 기계에 인간의 판단력을 넘겨주지 않도록 방지하는 것 사이의 경계를 설정하는 일은 AI 안전 분야의 핵심 과제로 남아 있다.