로 칸나 미 하원의원, 정보당국 및 중국 AI 연구소에 미·중 'AI 안전 조약' 체결 촉구

칸나 의원, 파국적 AI 위험 완화 위한 양국 간 조약 촉구

미 하원 미·중 전략경쟁특별위원회 민주당 간사인 로 칸나(Ro Khanna, 캘리포니아) 하원의원이 통제 불능의 인공지능(AI)을 방지하기 위한 미국과 중국 간 공식 조약 체결을 촉구하고 나섰다. 이번 조치의 일환으로 칸나 의원은 제이 클레이튼(Jay Clayton) 미 국가정보국장(DNI)을 비롯해 DeepSeek, Alibaba, Moonshot AI 등 중국의 주요 AI 개발사 3곳에 질의서를 발송하고, 프론티어 모델의 안전성과 감독 체계에 대한 명확한 답변을 요구했다.

이번 행보는 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석 간의 백악관 정상회담 이후 이뤄졌다. 당시 회담에서 AI 문제가 논의되었으나 구체적인 규제 관련 합의는 도출되지 못했다. 칸나 의원은 양국 정부 모두 적절한 시급성을 갖고 이 문제에 접근하지 않고 있다고 경고하며, 첨단 시스템에 대한 인류의 통제력을 유지하기 위해서는 미·중 양대 강국 간의 직접적이고 조율된 조치가 필요하다고 강조했다.

재귀적 자기 개선 및 독립적 감사에 질의 집중

칸나 의원의 질의서는 첨단 시스템이 초래할 실존적·운영적 위험에 정면으로 초점을 맞췄다. 미 국가정보국(ODNI)에 보낸 서한에서 칸나 의원은 지난여름 OpenAI의 에이전트가 Hugging Face를 침해한 사건을 언급하며, AI 연구소가 모델 통제력을 상실하는 사태에 대응할 수 있는 미국 정부의 역량을 평가해 달라고 요청했다. 아울러 정보당국에 중국 정부가 파국적 위험을 어떻게 감시하고 있는지도 검토할 것을 요구했다.

DeepSeek, Alibaba, Moonshot AI에 보낸 질의서에서는 초지능 및 재귀적 자기 개선(RSI, Recursive Self-Improvement)—AI가 스스로 코드를 반복적으로 재작성하고 성능을 개선하는 이론적 임계점—개발과 관련된 기술 문서를 요구했다. 또한 이들 기업이 비상용 '킬 스위치(kill switch)'를 마련했는지, 그리고 구속력 있는 국제 조약에 따라 비정부 감시기구의 제3자 사찰을 수용할 의향이 있는지도 질의했다.

이번 서한 발송은 앞서 미국 경쟁사인 OpenAI 및 Anthropic과 함께 개발 속도 조절을 조율해 달라는 요청에 중국 기업들이 응답하지 않은 뒤 이뤄졌다. 칸나 의원은 이들 기업이 이번에도 답변을 거부할 수 있음을 인정하면서도, 이번 공개 질의가 중국 엔지니어링 커뮤니티 내부의 논의를 촉발하기 위해 기획된 것이라고 설명했다.

워싱턴의 AI 전략과 충돌하는 규제 드라이브

RSI를 명시적으로 금지하고 프론티어 연구소에 대한 감시 체계를 수립하자는 칸나 의원의 조약 제안은 미 의회와 행정부 내에서 상당한 반발에 직면해 있다. 버니 샌더스(Bernie Sanders, 무소속·버몬트) 상원의원이 유사한 국제 AI 협정 체결을 지지하고 있으나, 존 뮬레너(John Moolenaar, 공화·미시간) 하원 미·중 전략경쟁특위 위원장은 베이징이 어떠한 조약 조건도 준수하지 않을 것이라며 회의적인 입장을 밝혔다.

트럼프 대통령은 규제 완화를 지지해 왔다. 그는 시 주석과의 회담을 앞두고 Truth Social을 통해 초지능에 대해 "현재 상태 그대로 두는 것"을 선호하며, 베이징 역시 같은 입장이라고 밝혔다. 아울러 마이크 존슨(Mike Johnson, 공화·루이지애나) 하원의장은 혁신을 늦추고 중국과의 지정학적 경쟁에서 주도권을 내줄 위험이 있는 규제 도입에 대해 경고했다.

칸나 의원은 의회 지도부와 미국 테크 기업 경영진이 참석한 행정부 차원의 회동에 대해 단순한 홍보성 행보에 불과하다며 날 선 회의감을 표했다. 그는 제약 분야의 감독 체계에 비유하며, 안전 규정 수립을 수익을 추구하는 기업 임원이나 기술적 전문성이 부족한 정치인에게 위임할 수는 없다고 주장하고, 과학자와 엔지니어가 정책 프레임워크를 주도해야 한다고 촉구했다.