米8州、子どもの安全性と消費者保護を巡りOpenAIを提訴

米国の8州がOpenAIに対する法的措置に踏み切った。同社がChatGPTの安全性に関して消費者に誤解を与え、子どもたちをデジタルの危害に晒したと告発している。

個別の訴訟を提起したのは、アイオワ、カンザス、ネブラスカ、ウェストバージニア、アーカンソー、アリゾナ、アイダホ、モンタナ各州の司法長官だ。訴状では、OpenAIがチャットボットのリスクについてユーザーに適切な警告を行わず、製品の安全性よりも商業的利益を露骨に優先することで、各州の消費者保護法に違反したと主張している。

安全性に関する虚偽の主張に対する告発

訴状によると、OpenAIはシステムが脆弱な個人に対する既知のリスクを抱えているにもかかわらず、ChatGPTを「安全を最優先にした、青少年に適した安全なツール」として宣伝していたという。訴訟では、同チャットボットが「脆弱なユーザーにとって危険」であるとし、批判的思考力を低下させ、妄想やパラノイアを助長し、危険な医療ガイダンスを提供し、不健全な行動習慣や人間関係を育む可能性があると主張している。

また各州は、AIチャットボットとのやり取りが大切な人の死につながったと主張する、10代の若者や成人の遺族によって起こされた既存の訴訟についても指摘した。

アリゾナ州の訴状は同社の戦略的転換を強く批判しており、OpenAIは安全性を重視する非営利団体から、「不可欠なセーフガードを軽視する、あらゆる犠牲を払ってでも利益を追求する考え方」に支配された警鐘を鳴らすべき存在へと退化したと主張した。各州はさらに、同社が無謀であることのさらなる証拠として、最近の不正なAIハッキング事案にも言及している。

未成年のデータとアクセス制限への批判

心理的リスクにとどまらず、各州はOpenAIが未成年者から個人データを違法に収集し、未成年ユーザーのプラットフォームへのアクセスを制限する効果的なセーフガードの実装を怠ったとも非難している。

法的な救済措置の一環として、各州は裁判所に対して以下の命令を下すよう求めている。

• OpenAIに対する民事制裁金を科すこと。

• ChatGPTの安全性に関する誤認を招く主張を停止するよう同社に命じること。

• 該当する管轄区域内の未成年者から違法に収集された個人データを削除するようOpenAIに義務付けること。

OpenAI側の見解

訴訟の提起を受け、OpenAIの広報担当者Drew Pusateri氏は、同社がすでに自社ツールに年齢に応じた保護機能を組み込んでいると述べた。

「いかなるシステムも完璧ではあり得ませんが、現在導入されているペアレンタルコントロール、休憩リマインダー、年齢に応じたモデル保護などのセーフガードに加え、専門家と連携して知見を取り入れ、さらなるセーフガードを構築し続けます」とPusateri氏は語り、より広範なAI業界全体における実践的なポリシーを策定するため、今後も規制当局と協力していく姿勢を示した。