美眾議員 Ro Khanna 促美情報機構與中國實驗室簽訂雙邊 AI 安全條約

Khanna 呼籲簽署雙邊條約以降低災難性人工智慧風險

美國聯邦眾議院中國特別委員會民主黨首席議員 Ro Khanna（加州）呼籲華府與北京當局建立正式條約，以防止無法控制的人工智慧出現。作為該倡議的一部分，Khanna 向美國國家情報總監 Jay Clayton 以及三家中國領先的人工智慧開發商——DeepSeek、Alibaba 與 Moonshot AI 發出質詢函，要求釐清前緣模型的安全性與監管機制。

在此之前，美國總統 Donald Trump 與中國國家主席習近平剛於白宮舉行峰會，會中雖提及人工智慧，但並未達成具體的監管承諾。Khanna 警告，美中兩國政府皆未以應有的緊迫感面對此議題，並強調人類若要維持對先進系統的掌控，這兩個超級大國之間必須採取直接且協同一致的行動。

質詢鎖定「遞迴自我改進」與獨立稽核機制

Khanna 的信函重點聚焦於先進系統所帶來的存亡威脅與營運風險。在致美國國家情報總監辦公室（ODNI）的信中，Khanna 要求評估美國政府是否有能力應對 AI 實驗室失去模型控制權的突發狀況，並援引今年夏天 OpenAI 的代理（agents）入侵 Hugging Face 的事件為例。他同時要求該情報機構審查中國政府如何監控災難性風險。

在對 DeepSeek、Alibaba 及 Moonshot AI 的質詢中，Khanna 敦促其提供有關開發超級人工智慧（superintelligence）與遞迴自我改進（recursive self-improvement, RSI）的技術文件——RSI 指人工智慧能反覆重寫並強化自身程式碼的理論門檻。他詢問這些開發商是否已設立緊急「中斷開關」（kill switch），以及是否願意在具法律約束力的國際條約下，接受非政府監督機構的第三方審查。

在此之前，Khanna 曾發函詢問這些中國企業是否願意與美國同業 OpenAI 及 Anthropic 一同協調放緩開發步調，但並未獲得回應。Khanna 坦承這些企業這次可能依舊不會回覆，但他指出，這項公開倡議旨在激發中國工程社群內部的討論。

監管倡議與華府現行 AI 戰略正面交鋒

Khanna 提議的條約旨在明確禁止 RSI 並建立對前緣實驗室的監管機制，但這項提案在國會山莊與行政部門內部面臨相當大的阻力。儘管參議員 Bernie Sanders（佛蒙特州無黨籍）同樣主張簽署國際人工智慧協議，但眾議院中國特別委員會主席 John Moolenaar（密西根州共和黨籍）則對北京是否會遵守任何條款表示懷疑。

Trump 總統傾向放寬監管，他在與習近平會面前於 Truth Social 上發文表示，針對超級人工智慧，他偏好「維持現狀就好」（leave it exactly where it is），並稱北京當局也持相同立場。此外，眾議院議長 Mike Johnson（路易斯安那州共和黨籍）也警告，嚴苛的規範可能會減緩創新步伐，並面臨在美中地緣政治競爭中失去優勢的風險。

Khanna 對於行政部門與國會領袖及美國科技業高層舉行的會議表達強烈質疑，批評這些會議純屬公關手段。他將此情況比擬為藥物監管，主張安全規範不能委託給追逐利潤的企業高層，或是缺乏技術專業的政客，並敦促政策架構應改由科學家與工程師主導制定。