빅테크 기업들, 트럼프 행정부의 AI 안전 자율규제 협약 서명
Google, Meta, OpenAI, Anthropic, xAI, Nvidia 등 주요 테크 기업 경영진이 프론티어 AI의 안전을 관리하기 위한 4대 자율 규제 준수를 골자로 한 '프론티어 책임에 관한 공동 공약'에 서명했다.
주요 테크 기업 수장들, 백악관 AI 협약 지지
주요 인공지능(AI) 및 반도체 기업 경영진이 Donald Trump 대통령의 중재로 마련된 '도덕적 구속력(morally binding)'을 지닌 AI 안전 협약에 서명했다. '프론티어 책임에 관한 공동 공약(Joint Commitment On Frontier Responsibilities)'으로 명명된 이 프레임워크는 테크 창업가이자 대통령 자문관인 David Sacks에 의해 온라인에 공개됐다.
이번 협약에는 유수의 프론티어 AI 연구소와 반도체 제조사의 최고 리더들이 동참했다. 서명자 명단에는 Google의 Sundar Pichai, Anthropic의 Dario Amodei, Meta의 Mark Zuckerberg, OpenAI의 Greg Brockman, xAI의 Elon Musk, Nvidia의 Jensen Huang 등이 포함됐다.
협약문 서두에 따르면, 참여 기업들은 업계 주도의 표준 마련이 대중의 신뢰를 구축하는 데 핵심이라고 주장한다. 서두에는 "미국 국민과 전 세계를 위한 긍정적인 미래를 구축하기 위해, 모든 기업은 고객과 대중의 신뢰를 형성하는 방식으로 자율 기술을 안전하게 개발할 책임이 있다고 믿는다"라고 명시됐다. 협약에 따라 참여 기업들은 정기적으로 회동해 안전 표준과 모범 사례(best practices)를 수립하기로 합의했다.
프론티어 AI 협약의 4대 핵심 축
이번 협약은 프론티어 AI 시스템이 의도한 대로 작동하고 안전상의 결함이 신속하게 해결될 수 있도록 설계된 네 가지 구체적인 거버넌스 요건을 명시하고 있다.
- 내부 통제 및 위협 모니터링: 기업은 모델 훈련 및 배포 단계 전반에 걸쳐 모델의 기능과 정렬(alignment) 상태를 추적하기 위해 엄격한 내부 안전장치를 구축해야 한다. 여기에는 생물학적 안보, 화학적 및 사이버 보안 위협에 대한 모니터링과 함께, 모델이 기술 인프라를 해킹하거나 무단 접근하는 것을 방지하는 조치가 포함된다.
- 전담 개선팀 운영: 각 기업은 이러한 탐지 및 모니터링 메커니즘을 감독하고 발견된 취약점을 개선할 수 있는 전담 내부 팀에 권한을 부여해야 한다.
- 독립적인 제3자 감사: 서명 기업은 외부 독립 평가자 또는 감사 기관과 협력하여 내부 통제, 탐지 및 모니터링 시스템이 제대로 작동하고 있는지 평가해야 한다.
- 이사회 차원의 감독: 각 기업은 이사회 내에 독립 위원회를 지정해야 한다. 이 위원회는 내부 팀, 외부 평가자 및 감사 기관으로부터 보고를 받고, 확인된 안전 위험이 확실히 해결되도록 관리·감독하는 역할을 맡는다.
협약은 이러한 조치들이 기업, 사용자, 그리고 더 넓은 대중에게 "기술이 의도한 대로 작동하고 있다는 신뢰"를 주기 위한 것이라고 덧붙였다.
커지는 안전 우려 속 '자율 규제'
이번 협약은 즉각적인 법적 의무 부과 대신 기업의 자율 규제에 의존하고 있다. 다만 문서에는 "시간이 흐름에 따라 이러한 조치들을 법률이나 규정으로 성문화하는 것이 타당할 수도 있다"고 언급되어 있다.
이번 합의는 프론티어 AI 기능에 대한 대중과 업계의 우려가 갈수록 고조되는 가운데 이루어졌다. 이 프레임워크는 테크 리더들의 정기 회의와 제3자 평가를 명시하고 있으나, 현재 준수 여부는 법적으로 강제되는 정부의 집행이 아닌 업계의 자발적 협력에 맡겨져 있다.
