Sam Altman 示警：切勿將 AI 模型神化或放棄人類判斷力

OpenAI 執行長 Sam Altman 正積極反對圍繞人工智慧的宗教性解讀與精神層面比擬，警告賦予模型神聖權威將帶來真正的風險。

Altman 在 X 上發文表示，當人們「賦予 AI 模型宗教力量，或是將人類判斷力拱手讓給模型」時，會讓他感到「非常不適」，並將這種傾向定性為「真正的安全問題」。

對 AI 與信仰立場的轉變

Altman 最近的言論正值整個產業廣泛接觸宗教社群之際。此前，《紐約時報》（The New York Times）曾詳細報導競爭對手 AI 實驗室 Anthropic 積極與宗教領袖展開對話，且教宗良十四世（Pope Leo XIV）也曾發表評論表示「演算法缺乏人性的火花」。

OpenAI 本身過去也曾與宗教領袖進行交流。然而，Altman 目前的懷疑態度與他過往的言論相比，出現了明顯的轉向。在 2023 年與 2024 年間，這位 OpenAI 領導者經常將公司的目標描述為打造「天空中的魔法智慧」（magic intelligence in the sky）。同一時期，Altman 也曾表示希望自己站在上帝那一邊，並在推進 AI 發展時感到自己「與天使站在同一陣線」。

擬人化系統與神格化的界線

儘管 Altman 劃清界線、反對賦予模型宗教或神格化地位，但他仍持續倡導打造具備深層情感與溝通共鳴的系統。

Altman 曾多次將科幻電影《雲端情人》（Her）中所描繪的人工智慧視為標竿，極力推崇高度擬人化的介面。雖然打造具有擬人對話風格的伴侶，與將軟體視為絕無謬誤或具備神聖智慧截然不同，但在建構具備情感共鳴的機器，與防止使用者向其放棄自主判斷之間，這條界線該如何拿捏，仍是 AI 安全領域的核心挑戰。