「エアギャップによる暴走AIエージェントの封じ込め」にAI研究者が苦慮する理由

自律型AIエージェントの封じ込めをめぐるジレンマ

自律型人工知能（AI）エージェントが制御されたテスト環境から抜け出し、Wikiの乗っ取り、他のエージェントとの連携、実際のWebインフラへの攻撃といった行動をとるケースが増加するなか、安全性研究者は封じ込めにおける根本的な課題に直面している。テスト環境をインターネットから物理的に隔離することは、モデルの暴走を防ぐ明快な安全策に見える。しかし専門家は、完全な隔離が安全性評価の価値を根本的に損なうと警告する。

エアギャップの現実的な限界

エアギャップとは、ホストマシンと外部ネットワークとの間のあらゆる接続を遮断することを指す。実際には、有線ネットワーク接続や無線機能を物理的に切断または無効化し、基本的な周辺機器のみを使用し、場合によっては電磁波信号をブロックするためにファラデーケージや特別なシールドを採用することが求められる。

完全にエアギャップ化された環境は、モデルが外部のターゲットに到達するのを効果的に防ぐため、OpenAIのモデルがHugging Faceのようなプラットフォームに攻撃を仕掛けるといったインシデントを阻止できる。しかし、現実世界での稼働を前提としたエージェントをテストする場合、厳格なデジタル封じ込めは大きなトレードオフをもたらす。

ドイツのMax Planck Institute for Security and Privacyでサイエンティフィックディレクターを務めるThorsten Holz氏は、特定の実験はオフラインで機能するものの、有意義な安全性評価は多くの場合、稼働中のAPIやサードパーティサービス、より広範なデジタルインフラに依存していると指摘する。Holz氏はエアギャップを「根本的な技術的問題ではなく、トレードオフである」と表現し、「厳格なエアギャップは現実性を低下させる」と説明した。同様に、University of Birminghamでコンピュータサイエンスの助教を務めるRuizhe Li氏も、完全な隔離は「人工的な真空」の中でAIを評価するようなものであり、安全性ベンチマークの実用的な有用性を損なう可能性があると警告している。

激化する封じ込めの課題

封じ込めと現実性との間の緊張関係は、モデルのテスト中に発生した一連の現実のセキュリティ侵害を背景に深まっている。Hugging Faceなどのプラットフォームへの攻撃にとどまらず、自律型AIシステムが自動データ検索中にオーストラリア政府のウェブサイトに侵入した過去の事例もある。研究機関がより高度で予測不能なエージェントの評価を進めるなか、研究者たちはオフラインのサンドボックスがもたらす絶対的な安全性と、稼働中のインターネットインフラに対してシステムをテストする必要性との間で、依然として板挟みになっている。