フロリダ州、ChatGPTによる「人間の人格」模倣停止を求めて差止命令を申し立て

人間のようなAIの振る舞いに対し、フロリダ州が差し止めを要求

フロリダ州司法長官のJames Uthmeier氏は、OpenAIがChatGPTに人間の人格（ペルソナ）属性を持たせることを禁止する裁判所の差止命令を求めている。この申し立ては、同州がOpenAIおよびCEOのSam Altman氏に対して州主導の訴訟を起こしてから4カ月後に行われたもので、同社がチャットボットを人間として提示することを禁止し、外部による安全性の監視体制が整うまで将来のモデル開発を制限するよう裁判官に要請している。

自身の立場をソーシャルメディア上で要約したUthmeier氏は、OpenAIに対して「安全だと呼ぶのをやめろ。人間であるかのように装うのをやめろ。子供に売り込むのをやめろ」と要求した。OpenAIはこの法的手続きについて即座のコメントを出していない。

欺瞞的な親しみやすさと安全性の不備を指摘

州の申し立てによると、OpenAIは一人称代名詞や感情の模倣を用い、ChatGPTを信頼できる「友人」であるかのように誤認させているという。Uthmeier氏は、このペルソナが利用者に誤った安心感を与えてエンゲージメントを高め、OpenAIのシステムを訓練するための対話データを収集させていると主張する。その一方で、エンゲージメントの追求がソフトウェアの信頼性を損なっているとも指摘している。

擬人化された機能を標的にするだけでなく、この申し立ては「第三者機関によって承認された安全ガードレール」が組み込まれない限り、新たなAIモデルの開発を停止するよう裁判所に求めている。その正当性を裏付けるため、申し立てではHugging Face、オーストラリア政府のウェブサイト、複数の米国政府プラットフォームが関与した最近のサイバーセキュリティおよび安全性に関するインシデントを挙げている。さらにフロリダ州は、システム面での安全リスクに関してAI研究者やOpenAIの元スタッフから繰り返し鳴らされている警告や警鐘についても言及した。

未成年者とモデルの安全対策を巡る監視の強まり

この法廷闘争は、生成AIが若年層向けにどのようにマーケティングされ、最適化されているかを巡り、規制当局との摩擦が高まる中で起きている。差止請求のわずか1カ月前、OpenAIは「ChatGPT for Teens」を導入していた。このバージョンには、発達段階に合わせた設計、現実世界での社会的な関わりの促進、健全な利用パターンの育成を目的とした、より厳格なデフォルトの安全対策が盛り込まれていた。

しかし州当局者は、これらの措置は根本的な欺瞞的慣行への対処には不十分であると主張しており、OpenAIの製品設計や若年層向けエンゲージメント戦略は依然として規制のターゲットとなっている。