AI 연구진, 새 인터뷰 영상서 초지능 발 인류 멸종 위험 경고

내부 연구진, 초지능 위험성에 경종

OpenAI, Google DeepMind, Anthropic 등 주요 인공지능 연구소의 전·현직 연구원들이 고도화된 AI가 초래할 파멸적 위협을 다룬 일련의 경고 영상을 공개했다. AI의 역량과 동기를 연구하는 비영리 단체 Palisade Research가 기획하고 공개한 이번 인터뷰는 웹사이트 frominside.ai에 게시되었으며, 업계 실무자들이 직접 초지능으로 인한 인류 멸종 가능성에 대해 목소리를 내는 내용을 담고 있다.

실존적 위험과 통제 문제

이번 프로젝트는 약 10여 편의 인터뷰를 엮은 것으로, 통제 불능 수준의 역량 발전에 대한 연구원들의 우려, 스스로 위험하다고 여기는 기술 연구를 지속하는 이유, 그리고 실존적 위험 경고가 단순한 업계의 마케팅이나 과장(hype)에 불과한지 여부 등을 심층적으로 다룬다.

주요 연구원 다수가 파멸적 결과가 발생할 확률에 대해 구체적인 추정치를 제시했다:

• OpenAI와 Google DeepMind 출신의 전 연구원 Geoffrey Irving은 "내가 보기에 인류가 멸종할 확률은 동전 던지기(50%) 수준"이라고 밝혔다.

• Google DeepMind의 현직 연구 과학자인 Neel Nanda 역시 그 위험도를 심각하게 바라보며 "인류 멸종을 초래할 확률이 최소 10%에 달하며, 이는 터무니없이 높은 수치"라고 지적했다.

• OpenAI 출신 전 연구원 Daniel Kokotajilo는 인간의 인지 능력을 뛰어넘는 시스템을 인류가 통제하지 못한다는 점을 강조했다. Kokotajilo는 초지능 AI가 "기본적으로 신과 같은 위력을 지니게 될 것"이라며 "안타깝게도 우리는 이들을 통제하는 방법을 전혀 알지 못한다. 따라서 아마 그 누구도 이들을 제어하지 못할 것이다. 이는 들리는 그대로 극도로 위험한 일이며, 결코 일어나도록 방치해서는 안 된다"고 말했다.

공개된 영상 클립들은 주제별로 구성되어 있어, 시청자들은 연구원들이 자신의 연구 동기 및 정렬(alignment)을 둘러싼 기술적 난제에 대한 근본적인 질문에 직면하는 모습을 확인할 수 있다.

분열된 안전성 논의 지형

이들의 증언은 'AI 안전'이 무엇을 의미하는지, 그리고 급격한 기술 도약에 업계가 어떻게 대응해야 하는지를 둘러싸고 논쟁이 격화되고 있음을 보여준다. 참여자들 사이에서 파멸적 위험에 대한 경각심은 공유되었으나, 이번 영상 시리즈는 학계 및 업계 전반에 걸친 광범위한 합의 부재를 여실히 드러낸다. 안전에 대한 명확한 정의를 두고 연구자들과 기관 간의 의견이 여전히 엇갈리고 있으며, 업계는 향후 등장할 프론티어 모델의 통제권을 보장하기 위한 일관되고 실행 가능한 계획을 아직 마련하지 못한 상태다.