給与計算大手ADP、AIガバナンスと人間による監視戦略の全容を公開

生成AIが企業の基幹業務へと浸透するなか、給与計算・人事（HR）管理大手のADPが、AIリスク管理、法令遵守（コンプライアンス）、そして人間による監視体制をどのように運用しているかについて、その取り組みを明らかにした。

全米の労働者の6人に1人の給与支払いを担うADPは、社内においてはコーディング業務や画像・動画の自動生成などにIT部門横断でAIを活用している。一方、社外向けには、管理業務の負担軽減を目的にHRや給与計算のワークフローにまたがるタスクを処理するAIエージェント群「ADP Assist」を通じ、顧客向けソフトウェアに生成AIを統合している。

2018年に確立されたガバナンスフレームワーク

ADPでバイスプレジデント、マネージングカウンセル、AIリーガルオフィサーを務めるHelena Almeida氏によると、同社のAIガバナンス体制は近年の生成AIブーム以前から存在していたという。ADPは2018年にAIおよびデータ倫理原則を策定し、同時にAI・データ倫理委員会を立ち上げた。

同委員会には、法務、プライバシー、倫理、HR、製品エンジニアリングにわたる社内専門家や社外エキスパートが集まる。Almeida氏は、生成AIの台頭によってADPは社内プロセスや部門横断チームの刷新を促されたものの、公平性、透明性、セキュリティ、人間の関与といった基本的な優先事項は一貫して変わっていないと指摘する。

各州や国際的な各種規制枠組みを踏まえ、Almeida氏はADPの製品設計の指針となっている共通の要件として以下を挙げた。

• ユーザーに対する透明性

• モデルの説明可能性

• リスク管理

• プライバシーとデータセキュリティ

• 継続的な監視プログラム

Almeida氏によると、ADPは特定の禁止事項が法律で明文化されているかどうかにかかわらず、安全でないAIの適用を回避し、代わりにユースケースごとの重要度（リスクの大きさ）に応じて説明可能性と透明性を調整することに注力しているという。

人間の監視において「形骸化したチェックボックス」を回避する

ADPの戦略の中核をなすのはヒューマン・イン・ザ・ループ（人間による介入・確認）だが、Almeida氏はその監視が形骸的（パフォーマンス的）なものではなく実質的なものでなければならないと強調する。

「単に『人間が介在している』と言い繕うためだけに特定のステップを踏ませるような、形骸化したチェックボックスにしてはならない」とAlmeida氏は説明し、異常や不正確なモデル出力を特定するには、確認作業を行う人間が業務の文脈を理解していなければならないと訴えた。

業務プロセスの停滞を防ぎつつ、機密性の高い判断を保護するため、ADPは監視に対してリスクに応じた階層的アプローチを適用している。

• 高リスクな意思決定： 従業員の給与、職位、法的権利に影響を与える機能については、人間が直接介在するためのタッチポイントの組み込みを必須としている。

• 低リスクな管理タスク： 定型的な管理ワークフローについては、人間による承認を必須とせずに自動化する。

また同社は、アルゴリズムによる推奨をユーザーが無批判に信用して受け入れてしまう「自動化バイアス（automation bias）」の監視も積極的に行っている。ADPはツールを社内で先行テストし、顧客の操作パターンを追跡することで、定型的な管理データと比べて重要な出力の確認に適切な時間を割いているかを検証している。その上で、リスクが最も高い部分に人間の注意が確実に向けられるよう、製品設計の調整を重ねている。