Anthropic、AIエージェントの公平な交渉規範の確立に向け法律事務所と協議

Anthropicは、自律型人工知能（AI）システムが人間に代わって交渉を行う未来に向けて積極的に準備を進めている。Financial Timesの報道によると、同AI開発企業は、価格交渉や苦情の解決、より有利な契約条件の獲得を担うAIエージェントのための公平な交渉規範を確立すべく、複数の法律事務所と協議を行っているという。

不平等拡大のリスク

この取り組みは、能力の高いAIモデルの方が能力の低いモデルよりも一貫して有利な取引を取りまとめるという、Anthropic独自の実験で明らかになった重大な不均衡を受けたものだ。最も高性能なフロンティアモデルへのアクセスが平等に行き渡らない可能性があるため、交渉を行うエージェントが広く普及すれば、既存の社会的不平等が拡大しかねないと、同社は警告している。

自律型エージェントがより多くの商取引を担うようになる中で、業界の規範や交戦規則（ルール・オブ・エンゲージメント）を前もって明確に定めておくことで、不当な優位性の発生を防ぐ狙いがある。

判断力の評価に向けて弁護士を採用

法的枠組みの構築に向けたAnthropicの動きは、同社のモデル評価への取り組みにも直結している。同社は現在、「概念的推論フェロー（Conceptual Reasoning Fellows）」を積極的に募集しており、特に現役の実務弁護士を対象としている。

選ばれたフェローは4カ月間にわたり、法学、哲学、認知科学、経済学、政治学など、高度な判断力を要するシナリオにおいてClaudeのテストおよび評価を実施する。このフェローシップには10万ドルから16万7000ドルの報酬が用意されている。

この取り組みは、AI開発において長年立ちはだかるデータボトルネックを浮き彫りにしている。数学やコーディング分野におけるAIモデルのトレーニングは、正解・不正解が明確で検証可能なデータが豊富にあるという恩恵を受けられるが、人文学分野ではまったく異なる課題が存在する。

法律、制度、AIを研究するAnthropicの技術スタッフであるJustin Curl氏は、法的な領域において「品質を定義することは極めて難しい」と指摘する。Anthropicは各分野の専門家と連携することで、自律型エージェントが現実世界の交渉に解き放たれる前に、複雑で主観的な領域においてClaudeの推論の基盤を固めるために必要なテストケースやベンチマークの構築を目指している。