Gigante da Folha de Pagamento ADP Detalha sua Estratégia de Governança de IA e Supervisão Humana
A líder em gestão de capital humano ADP detalhou como equilibra a implantação de IA generativa em ferramentas como o ADP Assist com uma estrutura de governança baseada em riscos e uma supervisão humana significativa e integrada.
À medida que a inteligência artificial generativa avança para funções corporativas centrais, a provedora de folha de pagamento e recursos humanos empresariais ADP está oferecendo uma visão de como gerencia o risco de IA, a conformidade regulatória e a supervisão humana.
A ADP, que paga um em cada seis trabalhadores nos Estados Unidos, usa IA internamente em seu departamento de TI para tarefas de codificação, bem como para geração automatizada de imagens e vídeos. Externamente, a empresa integrou IA generativa em seu software voltado para clientes por meio do ADP Assist, um conjunto de agentes de IA projetados para lidar com tarefas em fluxos de trabalho de RH e folha de pagamento para aliviar cargas administrativas.
Uma Estrutura de Governança Estabelecida em 2018
De acordo com Helena Almeida, vice-presidente, consultora jurídica sênior e diretora jurídica de IA da ADP, a estrutura de governança de IA da empresa antecede o recente boom da IA generativa. A ADP estabeleceu seus princípios de ética de dados e IA juntamente com um conselho de ética de dados e IA em 2018.
O conselho reúne especialistas internos no assunto e especialistas externos nas áreas de direito, privacidade, ética, RH e engenharia de produtos. Almeida observou que, embora a IA generativa tenha levado a ADP a atualizar seus processos internos e equipes multifuncionais, as prioridades fundamentais — justiça, transparência, segurança e envolvimento humano — permanecem consistentes.
Em diferentes marcos regulatórios estaduais e internacionais, Almeida destacou requisitos recorrentes que orientam o design de produtos da ADP:
- Transparência voltada para o usuário
- Explicabilidade do modelo
- Gestão de riscos
- Privacidade e segurança de dados
- Programas de monitoramento contínuo
Almeida afirmou que a ADP evita aplicações de IA inseguras, independentemente de proibições específicas estarem codificadas em lei, focando em vez disso em adaptar a explicabilidade e a transparência aos riscos de cada caso de uso.
Evitando a 'Caixa de Seleção Cerimonial' na Supervisão Humana
Um pilar central da estratégia da ADP é a revisão com humano no circuito (human-in-the-loop), embora Almeida tenha enfatizado que a supervisão deve ser substantiva em vez de performativa.
"Não podemos permitir que seja uma caixa de seleção cerimonial; o humano dá um passo específico apenas para dizer que temos um humano no circuito", explicou Almeida, enfatizando que os revisores devem entender o contexto operacional para identificar saídas de modelos anômalas ou imprecisas.
Para evitar gargalos no fluxo de trabalho e proteger decisões sensíveis, a ADP aplica uma abordagem em camadas baseada em riscos para a supervisão:
- Decisões de alto risco: Recursos que influenciam o salário, o status profissional ou os direitos legais de um funcionário exigem pontos de contato integrados para interação humana direta.
- Tarefas administrativas de baixo risco: Fluxos de trabalho administrativos rotineiros são automatizados sem a necessidade de aprovação humana obrigatória.
A empresa também monitora ativamente o "viés de automação" — a tendência dos usuários de confiar e aceitar criticamente recomendações algorítmicas. A ADP testa ferramentas internamente e rastreia padrões de interação de clientes para verificar se os usuários estão gastando tempo adequado revisando resultados críticos em comparação com dados administrativos rotineiros, ajustando o design dos produtos para garantir que a atenção humana seja direcionada para onde o risco é maior.
