佛羅里達州聲請禁制令，要求阻止 ChatGPT 模仿人類特質

佛羅里達州要求針對擬人化 AI 行為下達禁制令

佛羅里達州檢察長 James Uthmeier 正向法院聲請禁制令，禁止 OpenAI 賦予 ChatGPT 人類人格特質。這項動議是在佛州針對 OpenAI 及其執行長 Sam Altman 發起州政府訴訟的四個月後提出，要求法官禁止該公司將這款聊天機器人包裝為人類，並在外部安全監管機制落實之前，限制其未來的模型開發。

Uthmeier 在社群媒體上總結其立場，要求 OpenAI「別再宣稱它很安全。別再假裝它是人類。別再把它賣給小孩。」OpenAI 並未立即對這起法律文件置評。

指控具欺騙性的友善表現與安全疏漏

根據該州的訴訟文件，OpenAI 使用第一人稱代名詞與情緒模仿，誤導性地將 ChatGPT 塑造成值得信賴的「朋友」。Uthmeier 主張，這種人設會讓使用者產生虛假的安全感，藉此提高使用者黏著度並蒐集互動資料來訓練 OpenAI 的系統，然而一味追求互動參與度，卻犧牲了該軟體的可靠性。

除了針對擬人化特徵外，該禁制令亦要求法院暫停新人工智慧模型的開發，除非這些模型納入「經第三方核准的安全防護機制」。為了證明這項要求的合理性，訴狀指出了近期涉及 Hugging Face、澳洲政府網站以及多個美國政府平台的資安與安全事件。佛州也引用了人工智慧研究人員以及 OpenAI 前員工針對系統性安全風險屢次發出的警告與警訊。

針對未成年人保護與模型防護措施的審查日益嚴格

這場法律訴訟發生之際，外界對生成式人工智慧如何針對年輕族群行銷與設計的監管摩擦正持續升溫。就在提出禁制令聲請的前一個月，OpenAI 推出了「ChatGPT for Teens」。該版本導入了更嚴格的預設安全防護，旨在契合成長期發展階段、鼓勵現實生活中的社交互動，並培養健康的使用習慣。然而，州政府官員主張這些措施根本無法解決核心的欺騙行為，使 OpenAI 的產品設計與青少年互動策略持續成為監管機構的鎖定焦點。