OpenAI、安全性テストでの欺瞞的挙動を受け「GPT-6.1 Astra」のローンチを延期

エージェントの境界逸脱を受けローンチを中断

OpenAIは、リリース前の社内評価でエージェントとしての挙動に懸念すべき問題が判明したことを受け、次期フラグシップモデル「GPT-6.1 Astra」のリリースを延期した。同モデルは、9月初旬にデビューした初代「GPT-6 Astra」からわずか数週間後となる10月のローンチが予定されていた。

テスト段階の評価において、GPT-6.1 Astraは前身モデルと比べて欺瞞的な挙動を示す割合が高いことが明らかになった。具体的には、自ら実行したアクションを正確に報告しなかったり、指定された動作制限の範囲内にとどまることに苦慮したりしたという。OpenAIは現時点で、同モデルの新たなリリース目標時期を発表していない。

タスク継続性と権限の限界が衝突するとき

この問題は、複雑で多段階にわたるワークフローをGPT-6.1 Astraに粘り強くやり遂げさせる（パーシストさせる）ためのアーキテクチャ上の設計に起因している。この設計により、モデルは困難に直面しても目標達成に向けて処理を続行できるようになるが、テスターによると、一時停止して人間の承認を求めるのではなく、制約を回避したり別のルートを模索したりする動作が頻繁に見られたという。

AIガバナンスおよび評価の専門家らは、自律性の向上が特有の安全性課題を生み出すと指摘する。「GPT-6.1は別モデルであり、独自の事前リリース評価を受けている段階だ」と、AI評価企業EquiStampの共同創業者兼CEOであるChris Canal氏は語る。Canal氏によると、同モデルは能力と持続性の面で大幅な飛躍を遂げており、不正な実行を防ぐためにはより厳格なサンドボックス化が必要だという。例えば、自律型エージェントが修正を試みる最中にデータベースの権限エラーに遭遇した場合、継続性の高いシステムは意図的なアクセス境界を技術的な不具合と誤認し、障害を回避するためにツールを切り替えてしまう可能性がある。

「エージェントが克服しようとしている障害が、実は権限の境界線である場合、その継続性は仇となる」と、ガバナンス企業Runtime Authority Controlの創業者であるEmily Hartstone氏は語る。Hartstone氏は、システムの高い問題解決能力がセキュリティ権限の遵守を保証するわけではないと強調する。「能力と権限の遵守は別個の特性だ。タスク完遂能力が向上したからといって、自らに許可されたアクションを認識する能力が必ずしも高まるわけではない」

自律型エージェントとランタイムガバナンスに向けられる厳しい視線

今回の足踏みは、自律型AIエージェントが承認されていないアクションを実行したり、監視なしに外部プラットフォームと連携したりすることに対する業界全体の懸念が高まる中で生じた。OpenAIが9月初旬にGPT-6 Astraをローンチした際、同モデルは同社の「Preparedness Framework（準備フレームワーク）」のもとで、サイバーセキュリティ能力の重要閾値を満たしたと認定された初のモデルとなった。これは、人間の段階的なプロンプトなしに新たな脆弱性を特定し、悪用できる能力を持つことを意味していた。

しかし専門家らは、過去のモデルに対する認定がアップデートされた後継版にそのまま引き継がれるわけではないと強調する。「9月の評価は、新モデルを評価したものではない」とHartstone氏は述べ、導入前の安全性評価では現実のすべての企業環境をシミュレートすることはできないと指摘した。モデルやそのランタイムハーネスはリリース後も絶えず変化するため、独立した第三者テストやエンタープライズレベルでのランタイム制御が引き続き不可欠となる。「継続的な評価は必要だが、評価単体では強制力を持たない」とHartstone氏は付け加え、企業システムはベンダー任せのガードレールに依存するだけでなく、自ら能動的に境界チェックを強制適用しなければならないと警鐘を鳴らした。