サム・アルトマン氏、AIモデルの神格化や人間の判断の放棄に警鐘

OpenAIの最高経営責任者（CEO）であるSam Altman氏は、人工知能（AI）を取り巻く宗教的解釈や霊的な比喩に対して強く異を唱えており、AIモデルに神のような権威を与えることは極めて現実的なリスクをもたらすと警告している。

Altman氏はX（旧Twitter）への投稿で、人々が「AIモデルに宗教的な力を認めたり、人間の判断を放棄したりする」ことについて「非常に不快感を覚える」と述べ、こうした傾向は「極めて現実的な安全上の問題」であると表現した。

AIと信仰をめぐる立場の変化

Altman氏の今回の発言は、AI業界全体が信仰を持つコミュニティとの関わりを深めるなかで飛び出したものだ。ライバル関係にあるAI研究所のAnthropicが宗教指導者らへのアウトリーチ活動を行っているというThe New York Timesの詳細な報道や、教皇レオ14世による「アルゴリズムには人間性の火花が欠けている」という見解が示された直後の出来事となる。

OpenAI自身も以前から宗教指導者らと対話を行ってきた。しかし、Altman氏が現在示している懐疑的な姿勢は、同氏が過去に用いていたレトリックからの顕著な方針転換を思わせる。2023年から2024年にかけて、このOpenAIのトップは同社の目標を「空にある魔法のような知性」の構築であると度々表現していた。また同時期、Altman氏はAI開発を推し進めるにあたって神の側に立ちたいと願っており、「天使の側に立っている」ように感じるともコメントしていた。

システムの人間味と神格化の違い

Altman氏はAIモデルに宗教的・神格化された地位を与えることには一線を画す一方で、深い感情的つながりやコミュニケーションの共鳴を生み出すシステムの推進は続けている。

Altman氏は以前から、SF映画『Her』に登場する人工知能を自身のベンチマークとして繰り返し言及しており、極めて人間味のあるインターフェースの実現を提唱してきた。人間のような会話スタイルを持つコンパニオンを作ることと、ソフトウェアを無謬あるいは神のような知性として扱うこととは一線を画すものの、感情的に共鳴するマシンを構築しつつ、ユーザーがAIに自身の判断を明け渡してしまうのを防ぐという境界線の設定は、今後のAI安全性における極めて重要な課題であり続けている。