Google DeepMindが「AlphaProof Code」を発表、Signalの暗号コアの安全性を4週間で検証

Google DeepMindは、ソフトウェアがエラーなくセキュリティ仕様を厳密に満たしていることを数学的に検証するよう設計された人工知能システム「AlphaProof Code」を発表した。

その能力を示す大規模な実証実験として、研究者チームはこの技術を用いて高セキュリティなメッセンジャーアプリ「Signal」の暗号化プロトコルを検証した。AlphaProof Codeは、通常であれば人間の手で数年を要するSignalのコア暗号コードの形式検証を、わずか4週間で完了させた。

実社会のコードを大規模に検証

DeepMindの研究者であるPushmeet Kohli氏とSwarat Chaudhuri氏によると、従来の形式検証の取り組みは理論的な設計段階にとどまることが多かったという。これに対しAlphaProof Codeは一歩進み、ユーザーのデバイス上で実際に実行される暗号コードそのものを検証した。

同システムは、GoogleのGemini Carbonを基盤とするAIエージェントに依拠している。人間の専門家が形式的なセキュリティ要件を定義した後、AIエージェントが仕様の策定を支援し、証明言語「Lean」を用いて600万行を超える形式証明を生成して、ソフトウェアがそれらの条件を満たしていることを自律的に証明した。

検証の過程で、AIはコードベースの約1%を人間のレビュー対象としてフラグ付けした。また信頼性を評価するため、研究者がテスト用としてコードベースに意図的に2つのバグを埋め込んだところ、AlphaProof Codeはその両方を即座に検出した。

重要インフラへの展開へ

Signalのプロトコル検証の成功は、機密性の高いデジタルシステムの安全確保においてAIが果たす役割が拡大していることを浮き彫りにした。Signalの最高技術責任者（CTO）であるEhren Kret氏は、こうした検証アプローチは、脅威環境が進化する中でもデータプライバシーに対する信頼を強化するのに役立つと指摘している。

今後、Google DeepMindはCodeMenderのようなシステムを活用し、この形式検証手法をメッセージングアプリにとどまらず、医療機器や電力網といった実世界の重要な社会インフラへと拡大していく計画だ。