Anthropic, AI 에이전트의 공정한 협상 규범 마련 위해 로펌과 협의

Anthropic이 인간을 대신해 자율적으로 협상을 진행하는 인공지능(AI) 시스템의 미래를 적극적으로 대비하고 있다. Financial Times의 보도에 따르면, 이 AI 개발사는 가격 흥정, 고객 불만 해결, 더 나은 계약 조건 확보 등의 역할을 수행하는 AI 에이전트를 위한 공정한 협상 규범을 정립하고자 로펌들과 협의 중이다.

불평등 심화 위험

이번 행보는 Anthropic 자체 실험에서 중대한 불균형이 발견되면서 시작되었다. 성능이 더 뛰어난 AI 모델이 약한 모델보다 일관되게 더 유리한 조건으로 협상을 이끌어낸다는 점이다. 최고 수준의 프론티어 모델에 대한 접근성이 불평등하게 분배될 수 있는 만큼, 협상 에이전트의 광범위한 도입이 기존의 사회적 불평등을 더욱 벌려놓을 수 있다고 회사는 경고한다.

자율 에이전트가 더 많은 상업적 거래를 처리하게 됨에 따라 발생할 수 있는 불공정한 우위를 방지하기 위해, 사전에 명확한 업계 규범과 행동 수칙을 마련하겠다는 구상이다.

판단력 평가를 위한 법률 전문가 채용

법적 프레임워크를 마련하려는 Anthropic의 움직임은 모델 평가 작업과도 직결된다. 회사는 현재 현직 변호사를 주 대상으로 하는 '개념 추론 펠로우(Conceptual Reasoning Fellows)'를 적극 채용하고 있다.

선발된 펠로우들은 4개월간 법률, 철학, 인지과학, 경제학, 정치학 전반에 걸쳐 고도의 판단력이 요구되는 시나리오를 바탕으로 Claude를 테스트하고 평가하게 된다. 해당 펠로우십의 급여는 10만 달러에서 16만 7,000달러 수준이다.

이번 프로젝트는 AI 개발 과정에서 지속되어 온 데이터 병목 현상을 보여준다. 수학이나 코딩 분야의 AI 모델 학습은 정답과 오답이 뚜렷하고 검증 가능한 데이터가 풍부한 반면, 인문학 영역은 전혀 다른 난제를 던져주기 때문이다.

Anthropic에서 법률, 제도, AI를 연구하는 기술진인 Justin Curl은 법률 분야에서는 "품질을 정의하기가 지극히 어렵다"고 지적했다. Anthropic은 자율 에이전트가 실제 협상 현장에 본격 투입되기 전, 전문 인력과의 협업을 통해 복잡하고 주관적인 영역에서 Claude의 추론을 뒷받침할 테스트 케이스와 벤치마크를 구축한다는 계획이다.