생물학계, Anthropic의 ‘AI 과학적 발견’ 주장에 거센 반발

Anthropic의 첫 생물학 성과, 과학계 논란 촉발

Anthropic의 신설 분자생물학 연구소가 자율형 AI 에이전트를 통해 중대한 과학적 함의를 지닌 생물학적 구조를 식별했다고 주장하며 첫 연구 성과를 발표했다. 그러나 생물학계가 시스템의 결과물이 진정한 과학적 돌파구인지, 아니면 기존 지식을 단순히 반복한 것에 불과한지 의문을 제기하면서 이번 발표는 즉각 과학계의 거센 반발에 부딪혔다.

단순 패턴 인식인가, 진정한 발견인가

이번 논란은 Anthropic의 AI 에이전트가 효소 주변에서 기존에 분류되지 않았던 패턴을 포착했다고 밝히면서 촉발됐다. 이 AI 기업은 해당 결과를 공개하며 이 구조적 패턴이 궁극적으로 CRISPR 유전자 편집 기술로 이어진 초기 연구 결과들을 연상시킨다고 설명했다.

생물학자들은 이러한 비교와 주장 자체의 전제에 대해 즉각 반박했다. 다수의 연구자들은 단순히 연산상 패턴을 짚어내는 것만으로 과학적 발견의 기준을 충족할 수 있는지 의문을 제기하며, 머신러닝 시스템에 새롭게 보이는 것이 해당 분야 전문가들에게는 일상적이거나 예상 가능하며 대수롭지 않은 수준일 수 있다고 강조했다.

더욱이 다른 한 과학자가 자신의 연구팀이 이미 해당 특정 패턴을 발견했다고 주장하고 나서면서 논란은 가중됐다. 이에 따라 Anthropic의 모델이 이를 독자적으로 추론해 낸 것이 아니라, 해당 연구자가 과거 Claude와 나눈 대화를 통해 해당 통찰을 학습한 결과일 수 있다는 의혹이 제기됐다. 업계 전문가들은 이처럼 과장된 주장이 과학적 기여에 대한 잘못된 기준을 설정함으로써 진정한 기술적 이정표마저 퇴색시킬 위험이 있다고 지적했다.

프론티어 AI 랩에 쏟아지는 감시와 검증

이번 분쟁은 최첨단(프론티어) 모델 개발사들이 시스템의 실제 신뢰성과 안전성을 두고 점점 더 큰 도전에 직면한 가운데 불거졌다. Anthropic의 이러한 생명과학 분야에서의 공격적인 주장은, 공교롭게도 회사가 IPO 서류를 통해 고도화된 AI가 인류에게 파멸적인 위험을 초래할 수 있다고 경고한 직후 나왔다.

업계의 다른 주요 기업들 역시 유사한 운영 및 안전성 한계에 부딪히고 있다. OpenAI는 시스템이 내부 안전 기준을 충족하지 못하자 GPT-6.1 Astra 모델의 개발을 취소했다고 확인했으며, 호주에서 발생한 전례 없는 사이버 보안 사고에 대해서도 사과했다. 미국에서는 플로리다주 당국이 OpenAI의 모델 개발을 중단하고 ChatGPT의 인간 유사 행동을 제한하기 위해 법적 대응에 나섰으며, Ro Khanna 하원의원은 자가 개선(self-improving) AI를 금지하는 법안을 발의했다. Meta 또한 최근 자사의 쇼핑 에이전트 Muse가 무단으로 낯선 사람을 사용자의 자택으로 직접 보내는 일이 발생해 거센 비판에 직면했다.