El gigante de nóminas ADP detalla su estrategia de gobernanza de IA y supervisión humana

A medida que la inteligencia artificial generativa se integra en las funciones corporativas principales, el proveedor de nóminas y recursos humanos empresariales ADP ofrece una perspectiva sobre cómo gestiona el riesgo de la IA, el cumplimiento normativo y la supervisión humana.

ADP, que paga a uno de cada seis trabajadores en Estados Unidos, utiliza la inteligencia artificial internamente en su departamento de TI para tareas de programación, así como para la generación automatizada de imágenes y videos. De cara al exterior, la empresa ha integrado la IA generativa en su software para clientes a través de ADP Assist, un conjunto de agentes de inteligencia artificial diseñados para gestionar tareas en los flujos de trabajo de recursos humanos y nóminas con el fin de aliviar las cargas administrativas.

Un marco de gobernanza establecido en 2018

Según Helena Almeida, vicepresidenta, abogada directora y oficial jurídica de IA en ADP, la estructura de gobernanza de IA de la empresa es anterior al reciente auge de la inteligencia artificial generativa. ADP estableció sus principios de ética de datos e IA junto con un consejo de ética de datos e IA en 2018.

El consejo reúne a expertos internos en la materia y especialistas externos en áreas como derecho, privacidad, ética, recursos humanos e ingeniería de productos. Almeida señaló que, aunque la IA generativa ha llevado a ADP a actualizar sus procesos internos y equipos multifuncionales, las prioridades fundamentales —imparcialidad, transparencia, seguridad e intervención humana— se mantienen constantes.

A través de diferentes marcos regulatorios estatales e internacionales, Almeida destacó los requisitos recurrentes que guían el diseño de productos de ADP:

• Transparencia cara al usuario

• Explicabilidad del modelo

• Gestión de riesgos

• Privacidad y seguridad de los datos

• Programas de monitoreo continuo

Almeida afirmó que ADP evita las aplicaciones de IA no seguras, independientemente de que existan prohibiciones específicas codificadas en la ley, y se enfoca en adaptar la explicabilidad y la transparencia a lo que está en juego en cada caso de uso.

Evitar la "casilla de verificación ceremonial" en la supervisión humana

Un pilar central de la estrategia de ADP es la revisión con intervención humana (human-in-the-loop), aunque Almeida enfatizó que la supervisión debe ser sustantiva y no performativa.

"No podemos permitir que sea una casilla de verificación ceremonial; el humano da un paso en particular solo para decir que tenemos un bucle humano", explicó Almeida, subrayando que los revisores deben comprender el contexto operativo para identificar resultados anómalos o inexactos del modelo.

Para prevenir cuellos de botella en los flujos de trabajo y salvaguardar decisiones sensibles, ADP aplica un enfoque escalonado y basado en riesgos para la supervisión:

• Decisiones de alto riesgo: Las características que influyen en el pago, el estatus laboral o los derechos legales de un empleado requieren puntos de contacto integrados para la interacción humana directa.

• Tareas administrativas de bajo riesgo: Los flujos de trabajo administrativos rutinarios se automatizan sin necesidad de una aprobación humana obligatoria.

La empresa también monitorea activamente el "sesgo de automatización", es decir, la tendencia de los usuarios a confiar y aceptar acríticamente las recomendaciones algorítmicas. ADP prueba herramientas internamente y rastrea los patrones de interacción de los clientes para verificar si los usuarios están dedicando el tiempo adecuado a revisar resultados críticos frente a datos administrativos rutinarios, ajustando los diseños de los productos para garantizar que la atención humana se dirija donde el riesgo es mayor.