涉兒童安全與消費者保護爭議，美國八個州對 OpenAI 提起訴訟

美國八個州已對 OpenAI 採取法律行動，指控這家人工智慧公司在 ChatGPT 的安全性方面誤導消費者，並使兒童暴露於數位危害之中。

這些個別訴訟是由愛荷華州、堪薩斯州、內布拉斯加州、西維吉尼亞州、阿肯色州、亞利桑那州、愛達荷州以及蒙大拿州的州檢察長提出。起訴書指出，OpenAI 未能就聊天機器人的風險向使用者提供充分警示，且過度將商業利潤置於產品安全之上，已違反當地的消費者保護法。

遭控安全宣傳具誤導性

根據訴訟文件，儘管該系統對易受傷害的脆弱族群存在已知風險，OpenAI 仍將 ChatGPT 行銷為「安全、適合青少年且將安全擺在第一位的工具」。訴狀中表示，該聊天機器人「對脆弱的使用者具有危險性」，並指出它可能會削弱批判性思考能力、助長妄想與偏執、提供危險的醫療指引，並助長不健康的行為習慣及人際關係。

各州還特別提及先前由青少年及成年人家屬提起的訴訟，這些家屬指控與 AI 聊天機器人的互動導致了其至親的死亡。

亞利桑那州的起訴書強烈批評這家 AI 公司的策略轉型，指責 OpenAI 已從一個重視安全的非營利組織，淪為一個「被不惜一切代價追求利潤的心態所支配，並忽視必要安全防護」的警世案例。各州還指出近期發生的惡意 AI 駭侵事件，作為該公司行事魯莽的進一步證據。

未成年人個資與兒童存取機制引發抨擊

除了心理風險之外，各州亦指控 OpenAI 非法蒐集未成年人的個人資料，且未能落實有效的防護措施以限制未成年使用者存取該平台。

作為要求法律救濟的一部分，各州敦促法院：

• 對 OpenAI 處以民事罰鍰。

• 勒令該公司停止有關 ChatGPT 安全性的誤導性陳述。

• 要求 OpenAI 刪除在相關司法管轄區內非法蒐集的未成年人個人資料。

OpenAI 的回應

對於這些起訴，OpenAI 發言人 Drew Pusateri 表示，該組織已經在其工具中整合了針對特定年齡層的保護機制。

Pusateri 表示：「雖然沒有任何系統是完美的，但我們將持續與專家合作以完善我們的工作，並建構更多安全防護，例如現有的家長監護、休息提醒以及適合特定年齡的模型保護措施。」他並補充，該公司仍致力於與監管機構合作，為更廣泛的 AI 領域制定切實可行的政策。