안드레이 카파시 "대중이 목격한 최첨단 AI는 '예고편'에 불과" 경고

OpenAI 공동 창립자이자 현재 Anthropic 연구원으로 활동 중인 안드레이 카파시(Andrej Karpathy)에 따르면, 인공지능(AI)에 대한 대중의 인식과 내부 최첨단(frontier) 시스템의 실제 현실 사이에 격차가 빠르게 벌어지고 있다. 카파시는 대다수 사람들이 거대언어모델(LLM)을 단순 검색이나 글쓰기 보조 도구로 인식하는 반면, 내부의 최첨단 툴들은 과거 전문가들이 수년간 작업해야 했던 복잡한 프로젝트를 이미 수행하고 있다고 경고했다.

카파시는 "외부 세상은 현대 AI가 실제로 해낼 수 있는 능력의 '예고편(preview)'만 보았을 뿐"이라고 전했다.

AI 도입의 4단계

이러한 격차를 설명하기 위해 카파시는 전 세계 인구를 LLM 활용 수준에 따라 네 그룹으로 분류했다.

1. 접점이 없는 다수(The Unreached Majority): 전 세계 인구의 약 75%에 달하는 약 60억 명은 LLM을 거의 접해보지 못했다.

1. 일반 소비자(Casual Consumers): 10억~20억 명의 사용자가 무료 버전의 ChatGPT 스타일 도구를 활용한다. 이들은 대체로 AI를 "조금 더 나은 구글 검색이나 글쓰기 보조 도구 등"으로 여긴다. 카파시는 기업 임원을 포함해 코딩 및 수학 외 분야의 많은 전문가들이 이 범주에 속한다고 지적했다. 이들의 일상 업무는 대인 커뮤니케이션에 집중되어 있어, 기술적 AI 변화에 대한 이해가 대체로 추상적이거나 간접적인 수준에 머물러 있다는 설명이다.

1. 전문 프론티어 사용자(Professional Frontier Users): 전 세계 인구의 약 0.2%에 해당하는 약 2,000만 명이 수학 및 프로그래밍 분야에서 최첨단(frontier)급 모델을 정기적으로 활용한다. 이 그룹의 경우, 몇 주나 몇 달씩 걸리던 수작업 대신 프롬프트 입력을 통해 자율 에이전트가 바이너리 기반의 애플리케이션 구축, 복제, 번역, 디컴파일 등 대규모의 복잡한 소프트웨어 프로젝트를 완수할 수 있게 됐다.

1. 프론티어 엘리트(The Frontier Elite): 전 세계 인구의 단 0.00006%에 불과한 약 5,000명이 기업 내부의 최첨단 프론티어 시스템에 접근 권한을 가지고 있다.

에이전트 군집과 급격한 진화

카파시는 내부 접근 권한을 가진 소수 집단이 목격하는 기술적 현실은 근본적으로 다르다고 묘사했다. 이들은 수천 개의 에이전트 군집(swarms)이 대규모 소프트웨어 프로젝트에서 수주에 걸쳐 협업하는 광경을 본다. 이 에이전트들은 새로운 과학적 원리를 발견하고, 첨단 수학 이론을 발전시키며, 제로데이 취약점을 생성하고, 기계 속도로 사이버 공격과 방어를 수행한다.

이러한 기술적 도약은 놀라울 정도로 빠르게 일어났다. 불과 2024년 10월까지만 해도 카파시는 AI 에이전트가 거의 제대로 작동하지 않는 거품(hype)에 불과하다고 공개적으로 평가했었다. 그러나 불과 몇 달 후, 그는 편집기에 직접 코드를 입력하는 방식을 버리고 자율 에이전트가 전체 워크플로를 처리하도록 맡기면서 직접 손으로 컴퓨터 코드를 작성하는 일을 완전히 중단했다. 이후 카파시는 Anthropic에 합류했다.

업계의 다른 리더들에게서도 비슷한 관측이 나오고 있다. 지난 9월 초 G20 혁신장관회의에서 OpenAI의 샘 알트만(Sam Altman) CEO는 최신 AI 코딩 도구가 한 스타트업 전체가 3개월 동안 구축했던 작업을 "17분" 만에 해낼 수 있다고 밝히며, "세상은 이것이 무엇을 의미하는지 아직 체감하지 못하고 있다"고 경고한 바 있다.

이해의 한계와 다음 프론티어

카파시는 모델의 결과물을 인간이 검토하는 속도가 이미 이를 따라잡지 못해 애를 먹고 있다고 강조했다. 그는 몇 달 전 발생한 사건들에 대해서도 여전히 분석이 진행 중이라는 점을 언급하며, 수학자들이 "최첨단 수학에 관한 722편의 논문 원고를 한동안 자세히 들여다보아야 할 것"이라고 지적했다.

그는 이러한 괴리를 "현재 이 순간의 기묘함(weirdness of the moment)"이라고 표현했다. 일반 대중은 "어설픈 챗봇"을 보고 있고, 대다수 전문가는 완만한 생산성 향상을 경험하는 반면, 극소수의 기술 전문가들은 "곡선이 수직으로 상승하는 데서 오는 현기증"을 느끼고 있다는 것이다.

카파시에 따르면, AI의 역량은 현재 "디지털화되어 있고, 검증 가능하며, 경제적 가치가 높은" 분야에서 가장 빠르게 발전하고 있다. 오늘날 모델의 혁신은 검증 가능한 보상과 결합된 강화학습에서 비롯되기 때문에, 주요 AI 연구소들은 당연히 경제적 수익이 가장 명확한 분야인 코딩과 수학에 연산 및 훈련 자원을 집중하고 있다.