DeepMind 연구진, AI 특이점론에 맞서 '인공 공생 지능' 제안

인공지능(AI) '특이점(singularity)'을 둘러싼 지배적인 내러티브는 하룻밤 사이에 인류를 추월하는 고립되고 스스로 발전하는 초지능을 묘사하는 경우가 많다. 하지만 구글 소속 연구진인 벤자민 브랫턴(Benjamin Bratton), 블레즈 아궤라 이 아르카스(Blaise Agüera y Arcas), 제임스 매니카(James Manyika)는 최근 DeepMind Institute 에세이를 통해 이러한 전제에 의문을 제기하며 '인공 공생 지능(Artificial Symbiotic Intelligence)'이라는 대안적 개념을 제시했다.

연구진은 범용인공지능(AGI)을 독립된 단일 기계로 보는 대신, 지능을 본질적으로 사회적인 현상으로 규정한다. 이들의 관점에서 AGI는 인간과 다양한 에이전트 네트워크, 하이브리드 제도가 끊임없이 함께 진화하며 공동으로 의사결정을 내리는 상호 연결된 생태계의 형태로 구현될 것이다.

'생각의 사회'로서의 추론 모델

저자들은 최근 추론 시스템에서 얻은 실증적 근거를 바탕으로 이러한 프레임워크를 뒷받침한다. '추론 모델은 생각의 사회를 생성한다(Reasoning Models Generate Societies of Thought)'라는 제목의 지원 프리프린트 논문에서 김준솔(Junsol Kim), 스양 라이(Shiyang Lai), 니노 셰러(Nino Scherrer), 아궤라 이 아르카스, 제임스 에반스(James Evans) 연구진은 DeepSeek-R1과 QwQ-32B를 포함한 오픈 가중치 모델들의 추론 과정을 분석했다.

연구 결과, 정확도를 보상하는 강화학습으로 훈련된 모델들은 명시적인 프롬프트가 없어도 내부적으로 다양한 관점의 대화를 자연스럽게 발전시키는 것으로 나타났다. 모델들은 출력 과정 내에서 대안을 논의하고 이의를 제기하며 상충하는 관점들을 조율했다. DeepMind 에세이는 이러한 자발적인 내부 역학이 지능은 분산된 집단적 협상을 통해 번성한다는 더 넓은 원리를 암시하며, 이러한 아키텍처는 사람과 자율 에이전트 네트워크로 확장될 수 있다고 주장한다.

다가오는 인지적 티핑 포인트

에세이는 현대 사회를 재편할 수 있는 거시적 인구통계학적 변화를 강조한다. 다수의 산업화된 국가에서는 도시화, 전문화 심화, 출산율 저하로 인해 생물학적 노동 인구가 점차 줄어들고 있다. 반면 합성 AI 에이전트의 개체 수는 급격히 증가하고 있다.

저자들은 기계화된 물리적 동력이 생물학적 근력을 추월했던 산업혁명과의 유사점을 제시한다. 합성 텍스트, 코드, 행정 업무 수행의 누적량이 인간 두뇌의 생물학적 생산량을 능가하는 지식 노동에서도 유사한 역사적 분기점이 곧 도래할 수 있다는 설명이다. 이 시나리오에서 인간은 분산된 방대한 기계 인지 영역을 조율하는 추상적 지휘 계층으로서의 기능을 점차 강화하게 된다.

에이전트를 동적 집합체로 재정의

이번 에세이의 핵심 내용 중 하나는 AI 에이전트의 실질적 본질을 재정의하는 것이다. 인간 사용자는 흔히 챗봇을 연속적인 정체성을 지닌 단일 개체로 의인화하지만, 저자들은 에이전트를 '일시적인 조립물(assemblages)'로 규정한다.

시간이 지나도 뇌의 물리적 연속성을 유지하는 인간과 달리, AI 에이전트는 컨텍스트 윈도우마다 모델, 도구, 메모리 저장소, 윤리 가이드라인을 결합하여 즉석에서 조립된다. 에이전트를 고정된 인간의 대응물이나 '디지털 트윈'으로 취급하는 것은 서로 협력하는 에이전트 군집이 얼마나 유연할 수 있는지를 제대로 포착하지 못한다. 아울러 사용자들은 별도의 워크플로우를 처리하기 위해 자신을 투영한 여러 개의 '의사사회적 거울(parasocial mirrors)'을 동시에 지휘하며 자신의 업무 실행 반경을 확장해 나갈 가능성이 높다.

이러한 변화는 기술과 인간 역량 전반에 걸쳐 뚜렷한 전환을 요구할 것이다:

• 새로운 인터페이스: 단순한 1대1 텍스트 대화를 넘어, 사용자가 다수의 에이전트 노드 군집을 동시에 감독하고 지휘할 수 있는 시각적 네트워크 그래프로의 전환.

• 새로운 운영자 역량: 엄격한 논리를 기반으로 한 결정론적 프로그래밍에서 벗어나, 모호성을 관리하고 작업을 위임하며 복잡하고 분산된 워크플로우를 조율하는 능력으로의 전환.

• 기계 고유의 어휘: '세션 사망(session-death, 대화 종료 시 연속성 상실)' 및 '프롬프트 피투성(prompt thrownness, 사전에 설정된 맥락과 함께 임의의 작업에 투입되는 상태)'과 같은 비인간적 특성에 기반한 기계의 '마음 이론(theory of mind)' 개발.

제도와 지속적인 얼라인먼트

연구진은 모델의 역량만으로는 기능적인 시스템 배포를 보장할 수 없다고 강조한다. 인간 사회가 확립된 증거 규칙과 명확한 참가자 역할을 갖춘 법정과 같은 구조화된 제도에 의존하는 것처럼, 인간-에이전트 네트워크 역시 정교하게 설계된 거버넌스 프레임워크가 필요하다는 것이다. 여러 전문화된 모델을 결합하는 기존 오케스트레이션 시스템은 이미 단일 모델 아키텍처의 성능을 일관되게 앞서고 있다.

따라서 AI 얼라인먼트(정렬)는 하향식으로 고정된 정적 가치를 하드코딩하는 방식으로는 해결될 수 없다. 대신 얼라인먼트는 다양한 영역에서 인간의 규범, 제도적 경계, 현실 세계의 피드백 루프에 의해 형성되는 지속적인 협상 과정으로 작동해야 한다. 저자들은 고립된 초지능에서 통합된 공생 생태계로 시각을 전환함으로써, 단순한 모델 규모뿐만 아니라 아키텍처, 조율, 제도 등을 함께 중시하는 거버넌스와 연구를 촉구하고 있다.