Anthropic의 AI 기반 연구 급증, 안전 우려 제기… 기업은 개발 속도 완화를 촉구

Anthropic의 AI 연구가 급격히 가속화

AI 안전 단체 METR이 Anthropic 내부에서 11주간 진행한 조사에 따르면, 회사의 AI 모델이 약 두 배 빠른 속도로 발전하고 있다. 벤치마크 데이터는 “지난 1년 동안 약 2년 치의 과거 진보에 해당한다”고 보여준다. METR 연구원들은 이 가속이 단순히 연산량 증가 때문이 아니라, 10월에 나타난 가속 대부분이 AI 지원 작업 자체에 기인한다고 설명한다.

Anthropic 직원들의 생산성 향상

비공식 Slack 설문과 직원 인터뷰에 따르면, Anthropic의 가장 성능이 뛰어난 내부 모델을 활용한 연구원들은 AI 지원이 없을 때에 비해 약 12배 더 생산적이라고 보고했다. 이 수치는 몇 달 전, 직원들이 이전 내부 시스템인 Mythos 5를 사용했을 때의 생산성 자체 보고치보다 대략 두 배에 해당한다.

급증을 주도하는 새로운 내부 모델

METR은 Anthropic이 연속적으로 빠르게 학습을 마친, 아직 공개되지 않은 세 가지 모델을 확인했다:

2022년에 개발된 “Unreleased 2022” 모델도 언급되었다. 이 모델들은 아직 비공개이며, 그 성능이 보고된 생산성 향상의 대부분을 뒷받침하는 것으로 추정된다.

대규모 검열로 공개 정보 제한

Anthropic은 METR에게 기밀 연구 자료, 성능 데이터, 직원 인터뷰 등에 대한 접근 권한을 부여했으며, 이는 METR이 처음 예상했던 것보다 많았다. 그러나 회사는 보고서 공개 버전에서 대부분의 증거를 검열할 권리를 행사했다. METR은 생략된 많은 섹션이 “고수준”이라 하면서도 독립적인 검증에 필수적이라고 지적한다. Anthropic 공동창업자 Sam McCandlish는 상업적 이유를 들어 검열을 옹호했으며, 가속의 정확한 원인을 공개하면 경쟁사에게 자체 작업을 가속화할 “로드맵”을 제공할 수 있다고 주장했다.

말과 행동 사이의 역설

이러한 결과는 Anthropic이 IPO를 준비하고 있는 시점에 나왔으며, CEO Dario Amodei는 공개적으로 AI 연구소들에게 개발 속도를 “감속”할 것을 촉구했다. 비평가들은 회사가 안전을 강조하고 진전 속도 완화를 요구하면서도, 내부 프로세스는 AI 역량 성장을 급속히 진행하고 있다는 모순을 지적한다.

업계 반응 및 정책 압력

• Marius Hobbhahn(Apollo Research CEO)은 이 보고서가 AI 기반 연구개발이 많은 예측보다 빠르게 진행되고 있으며, 안전 조치를 앞설 가능성이 있다고 말했다.
• GovAI의 Alan Chan은 이번 결과가 회의론자들로 하여금 완전 자율 AI 기여에 대한 일정 재평가를 해야 한다고 주장한다.
• 뉴욕 주의회 의원 Alex Bores는 “가능하다면 올해 안에” 재귀적 자기 개선(RSI)을 금지하도록 의회에 촉구했으며, 이는 입법 관심이 커지고 있음을 반영한다.

전망: 투명성과 감독이 핵심 과제로

METR 보고서는 최첨단 AI 연구소에 대한 더 큰 투명성과 독립적인 감독을 요구하는 목소리를 고조시켰다. Brianna Rosen(Institute for AI Policy and Strategy)과 같은 연구자들은 제한 없는 접근이 없을 경우 대중의 신뢰와 민주적 감독이 여전히 취약하다고 경고한다. Anthropic은 “향후 몇 주 안에” AI 진전에 관한 자체 보고서를 발표하고 새로운 안전 조치를 제시할 계획이라고 발표했지만, 구체적인 내용은 아직 불투명하다.

핵심 요약: Anthropic의 내부 AI 활용이 연구 속도를 크게 가속화하고 있지만, 회사는 공개적으로 신중함을 촉구하고 있다. METR 결과에 대한 대규모 검열은 기업 책임, 투명성, 그리고 급속히 발전하는 AI 환경에서 기존 안전 프레임워크의 적절성에 대한 논쟁을 촉발하고 있다.