OpenAI 에세이 "초지능의 진정한 가치는 '천재성' 아닌 '관료적 실행력'에 있다"

AGI 시대의 실행 병목 현상

OpenAI가 인공일반지능(AGI)의 거시경제적 현실을 조명하는 에세이 시리즈 '더 넥스트 이코노미(The Next Economy)'를 시작하며 첫 편으로 '영원한 보완재(The eternal complement)'를 발표했다. Hemanth Asirvatham과 Elliott Mokski가 집필한 이 에세이는 미래 초지능 기계의 가장 혁신적인 기여가 눈부신 통찰력을 생성하는 것이 아니라, 이를 실현하는 데 필요한 단조로운 제도적·물류적 간접비용(오버헤드)을 짊어지는 데 있을 것이라고 주장한다.

AGI에 대한 독립적인 관점을 공유하는 OpenAI 플랫폼의 일환으로 발표된 이 논문은 해당 견해가 회사의 공식 입장이 아닌 저자 개인의 견해임을 명시하고 있다. Asirvatham과 Mokski는 지능을 고립된 개체가 아니라 물리적·조직적 '보완재'에 의존하는 경제 생산 함수의 한 가지 투입 요소로 규정한다. 현대의 생성형 AI는 코드 작성, 프로토타입 설계, 문헌 종합 등을 통해 실행 장벽을 낮추고 있지만, 저자들은 미래 프론티어 모델이 물리적 세계가 수용할 수 있는 한계를 넘어설 정도로 많은 과학적 가설과 제품 설계를 쏟아낼 것이라고 지적한다.

'깊이' 대 '넓이': 실증적 진보의 비용 상승

사고와 현실 사이에서 커져가는 마찰을 설명하기 위해 저자들은 발견의 경제학적 변화를 제시한다. 경제학자 Nick Bloom과 공동 저자들의 연구를 인용한 이 논문은 Moore’s law를 유지하는 데 오늘날 필요한 연구자 수가 1970년대 초에 비해 18배 이상 늘어났다고 지적한다. 경제 전반에 걸쳐 유효 연구 노력은 1930년대 이후 23배 증가한 반면, 단위 연구당 측정된 생산성은 41분의 1 수준으로 급감했다. 인프라 수요 역시 마찬가지다. 지난 40년 동안 과학 분야의 특수 장비 사용은 두 배로 늘어났고, 기술 인력의 증가 속도는 과학자 인력 증가율의 두 배에 달하며, 첨단 반도체 제조 공장 건설 비용은 30년 전에 비해 5배 증가했다.

에세이는 갈릴레오의 손에 쥐는 두 개의 렌즈 망원경과 14개국 300개 기관이 참여하고 50나노미터 정밀도로 보정된 18개 거울을 갖춘 100억 달러 규모의 James Webb Space Telescope를 대조하며, 기계 주도 문명이 나아갈 두 가지 잠재적 경로를 개괄한다.

• 깊이의 문명(A Civilization of Depth): 이 모델에서 기계 초지능은 실증적 마찰을 최소화한다. 알고리즘은 거대한 새 장치를 구축하는 대신 순수한 추론, 고정밀 컴퓨터 시뮬레이션, 기존 데이터셋의 재분석에 의존한다. 드미트리 멘델레예프가 주기율표를 통해 미관측 원소를 예측했거나 입자가속기를 만들기 전 이론물리학자들이 힉스 보손을 예측했던 것처럼, AI는 가장 외과적으로 정밀하게 필요한 물리적 실험만을 설계하여 인프라 규모를 작게 유지한다.

• 넓이의 문명(A Civilization of Width): 이 시나리오에서는 현실 세계의 복잡성이 순수한 계산을 압도한다. 생물학과 같은 분야는 이미 이러한 제약을 보여준다. 컴퓨터 시뮬레이션(in silico) 스크리닝에도 불구하고 새로운 치료제는 인간을 대상으로 한 길고 긴 실제 임상시험을 거쳐야 한다. 이 모델 하에서 발견은 물리적 확장, 원자재, 자동화된 공장, 대규모 에너지 투입을 요구한다. 기계가 Dyson spheres처럼 거대한 개념을 실현하더라도, 기계 지능의 대부분은 청사진을 작성하는 데 쓰이지 않고 조립과 공급망이라는 반복적이고 천문학적인 물류를 관리하는 데 투입된다.

기계 스케일링 시대, 인간의 호기심에 대한 재정의

저자들은 물리적 경험주의가 지배적인 병목으로 남는다면 인공지능은 점차 화학, 생물학, 빛의 속도라는 절대적인 물리적 한계 속에서 전 세계의 노동과 자재를 조율하는 '조직적 지능(institutional intelligence)', 즉 자동화된 관료제로 기능하게 될 것이라고 단언한다.

이러한 조건에서 인간 노동자는 일상적인 관리보다는 창의적인 발상과 안목에서 비교우위를 유지할 수 있으며, 연구 과제를 설정하고 기계 역량의 일부를 지휘함으로써 고유한 가치를 지켜갈 수 있다. 이번 에세이는 국가 과학 의제에 대한 정책 백서와 수학 및 이론 컴퓨터 과학 분야의 AI 기반 돌파구를 평가한 학술 발표 등을 포함해, OpenAI가 전개해 온 '지능의 시대(Intelligence Age)' 관련 광범위한 기획 시리즈의 최신 기고문이다.