급여 관리 거대 기업 ADP, AI 거버넌스 및 인간 감독 전략 공개

생성형 인공지능(AI)이 기업의 핵심 기능으로 자리 잡음에 따라, 글로벌 기업 급여 및 인사관리(HR) 솔루션 제공업체인 ADP가 AI 위험 관리, 규제 준수 및 인간 감독을 관리하는 구체적인 전략을 공개했다.

미국 내 근로자 6명 중 1명의 급여를 처리하는 ADP는 내부 IT 부서의 코딩 작업 및 자동화된 이미지·영상 생성에 AI를 활용하고 있다. 대외적으로는 HR 및 급여 워크플로우 전반의 업무를 처리해 행정 부담을 줄이도록 설계된 AI 에이전트 제품군인 ADP Assist를 통해 고객용 소프트웨어에 생성형 AI를 적용했다.

2018년에 구축된 거버넌스 프레임워크

ADP의 부사장 겸 총괄 법률 자문이자 AI 법무 책임자인 Helena Almeida에 따르면, 이 회사의 AI 거버넌스 체계는 최근의 생성형 AI 붐보다 앞서 구축되었다. ADP는 이미 2018년에 AI 및 데이터 윤리 위원회 설립과 함께 AI 및 데이터 윤리 원칙을 제정했다.

이 위원회는 법무, 개인정보 보호, 윤리, HR, 제품 엔지니어링 분야의 내부 전문가와 외부 전문가들로 구성된다. Almeida 부사장은 생성형 AI의 등장으로 ADP가 내부 프로세스와 교차 기능 팀(cross-functional teams)을 업데이트하게 되었지만, 공정성, 투명성, 보안, 인간의 참여라는 기본 우선순위는 변함없이 유지되고 있다고 설명했다.

Almeida 부사장은 다양한 주 및 국가별 규제 프레임워크 전반에서 ADP의 제품 설계를 이끄는 공통적 요구사항을 다음과 같이 강조했다:

• 사용자 관점의 투명성

• 모델 설명 가능성

• 위험 관리

• 개인정보 보호 및 데이터 보안

• 지속적인 모니터링 프로그램

Almeida 부사장은 ADP가 특정 금지 사항이 법률로 명문화되어 있는지 여부와 상관없이 안전하지 않은 AI 애플리케이션 사용을 지양하고 있으며, 대신 각 유스케이스(use case)의 위험 수준에 맞게 설명 가능성과 투명성을 조율하는 데 집중하고 있다고 밝혔다.

인간 감독에서 '형식적인 체크박스' 피하기

ADP 전략의 핵심 축은 인간 개입(human-in-the-loop) 검토이다. 다만 Almeida 부사장은 이러한 감독이 형식적인 행위에 그치지 않고 실무적으로 실질적이어야 한다고 강조했다.

Almeida 부사장은 "단순히 인간 개입 절차가 있다고 말하기 위해 특정 단계를 거치는 식의 형식적인 체크박스가 되어서는 안 된다"며, 검토자가 모델의 비정상적이거나 부정확한 출력 결과를 식별할 수 있도록 운영 맥락을 명확히 이해해야 한다고 강조했다.

워크플로우의 병목 현상을 방지하고 민감한 의사결정을 보호하기 위해, ADP는 감독에 단계별 위험 기반 접근 방식을 적용한다:

• 고위험 의사결정: 임직원의 급여, 고용 상태 또는 법적 권리에 영향을 미치는 기능은 직접적인 인간 개입을 위한 접점이 내장되어 있어야 한다.

• 저위험 행정 업무: 정형화된 행정 워크플로우는 필수적인 인간 승인 과정 없이 자동화된다.

회사는 알고리즘의 추천을 무비판적으로 신뢰하고 수용하는 사용자의 경향인 '자동화 편향(automation bias)'에 대해서도 적극적으로 모니터링하고 있다. ADP는 내부적으로 도구를 시범 운영하고 고객의 상호작용 패턴을 추적하여, 사용자가 일상적인 행정 데이터 대비 중요한 결과물을 검토하는 데 적절한 시간을 소비하고 있는지 확인한다. 이를 통해 위험도가 가장 높은 곳에 인간의 주의가 집중될 수 있도록 제품 설계를 조정하고 있다.