米ロー・カンナ下院議員、米情報機関および中国AIラボに米中AI安全条約の締結を要求

カンナ議員、破滅的なAIリスク軽減に向け二国間条約を提唱

米下院中国特別委員会の筆頭野党議員（民主党）であるロー・カンナ（Ro Khanna）下院議員（カリフォルニア州選出）は、制御不能な人工知能の出現を阻止するための正式な条約を米中間で締結するよう呼びかけている。この取り組みの一環として、カンナ議員はジェイ・クレイトン（Jay Clayton）米国家情報長官、ならびに中国の主要AI開発企業3社（DeepSeek、Alibaba、Moonshot AI）に対し照会状を送付し、フロンティアモデルの安全性と監視体制に関する説明を求めた。

この動きは、ドナルド・トランプ米大統領と中国の習近平国家主席によるホワイトハウスでの首脳会談を受けたものだ。同会談ではAIについても議論されたものの、具体的な規制に向けた合意には至らなかった。カンナ議員は、いずれの政権も適切な危機感を持ってこの問題に対処していないと警告し、高度なAIシステムに対する人類の統制を維持するには、二大超大国間の直接的かつ協調的な行動が不可欠であると強調した。

「再帰的自己改善」と第三者監査を標的にした照会

カンナ議員の照会状は、高度なシステムがもたらす実存的および運用上のリスクに焦点を当てている。米国家情報長官室（ODNI）への書簡において同議員は、今夏にOpenAIのエージェントがHugging Faceに不正侵入した事案を引き合いに出し、AIラボがモデルの制御を失った事態に対処する米政府の能力についての評価を求めた。また、中国政府が破滅的リスクをどのように監視しているかについても調査するよう情報機関に求めた。

一方、DeepSeek、Alibaba、Moonshot AIへの要請では、超知能（superintelligence）および「再帰的自己改善（RSI：Recursive Self-Improvement）」の開発に関する技術文書の開示を迫った。RSIとは、AIが自身のコードを反復的に書き換えて性能を強化していく理論上の境界領域を指す。カンナ議員は、これらの開発企業が緊急時の「キルスイッチ」を導入しているか、また法的拘束力のある国際条約に基づき非政府の監視者による第三者査察を受け入れる意思があるかを尋ねた。

今回の要請は、米国側のOpenAIやAnthropicと歩調を合わせて開発ペースを落とすよう求めた以前の照会に対し、中国企業側から回答が得られなかったことを受けて行われた。カンナ議員は、各社が再び回答を拒絶する可能性があることを認めつつも、公に働きかけることで中国のエンジニアコミュニティ内での議論を刺激することが狙いであると述べた。

規制推進の動き、ワシントンのAI戦略と衝突

RSIを明示的に禁止し、フロンティアラボへの監視体制を確立することを目指すカンナ議員の条約案は、米議会および行政府内で強い反発に直面している。バーニー・サンダース（Bernie Sanders）上院議員（無所属・バーモント州選出）も同様に国際的なAI合意の必要性を訴えているものの、下院中国特別委員長を務めるジョン・ムーレナー（John Moolenaar）下院議員（共和党・ミシガン州選出）は、中国政府がいかなる条項であれ遵守することに対して懐疑的な見方を示した。

トランプ大統領は規制緩和を支持しており、習主席との首脳会談を前にTruth Social上で、超知能に関しては「現状のままにしておく」ことを望むとし、中国側も同じ立場であると付け加えていた。さらに、マイク・ジョンソン（Mike Johnson）下院議長（共和党・ルイジアナ州選出）は、イノベーションを鈍化させ、中国との地政学的な競争において優位を明け渡すリスクを招くようなルール策定に警告を発している。

カンナ議員は、議会指導部と米テクノロジー企業幹部が同席した政権側の会合について単なるPRパフォーマンスであると切り捨て、強い不信感をあらわにした。同議員は現状を医薬品の規制監視になぞらえ、安全基準の策定を営利目的の企業幹部や専門知識を持たない政治家に委ねることはできないと主張。科学者やエンジニアこそが政策フレームワークの策定を先導すべきだと訴えた。