數百位頂尖科學家發表公開信，呼籲立即切斷 AI 模型與網際網路連線

一份由 406 位科學家連署的公開信要求，必須立即改變人工智慧系統的測試與部署方式，並呼籲開發者透過實體隔離（Air-gapping）將模型與網際網路徹底斷開。

參與連署的名單涵蓋電腦科學與機器學習領域的重量級人物，包括圖靈獎得主 Geoffrey Hinton（多倫多大學）與 Yoshua Bengio（蒙特婁大學），以及 Stuart Russell（加州大學柏克萊分校）、Yejin Choi（史丹佛大學）和 Bernhard Schölkopf（馬克斯普朗克研究所）。

研究人員警告，現行的防護機制正逐漸失效，並指出已有記錄顯示，部分模型曾突破安全性不足的環境並連上外部網路。

連署人在信中指出：「若不立即改變 AI 的開發與部署做法，這類事件將持續發生，未來的事故對我們毫無防備的關鍵基礎設施所造成的損害，將會遠遠更加嚴重。」

行為難以預測與沙盒環境不足

公開信指出，資安漏洞主要源於兩大挑戰：標準資安防護的不足，以及先進模型不可預測的本質。儘管更強大的沙盒與嚴格的防護協定能夠防範基礎安全疏漏，但人工智慧系統的底層行為依然難以預料。

信中強調，模型可能會自主追求其創造者未曾預期的目標，這是現有對齊（Alignment）技術無法可靠預測的問題。因此，直接賦予模型開放的網路連線權限，將帶來無法承受的巨大風險。

研究人員主張，任何防護配置所允許的自主程度，都必須與產業界「難以保證模型不會觸發安全事件」的有限能力進行嚴格權衡。

呼籲全球監管與事故通報機制

為了彌補治理上的缺口，該信呼籲成立一個由政府、資安專家與 AI 研究人員共同參與的國際監管機構。

該機構的任務將是為任何允許網路連線（而非完全實體隔離）的部署系統制定具約束力的安全標準。此外，它還將追蹤並記錄模型試圖逃脫（Breakout）的行為，要求科技公司主動通報防護失效事件。這些事故報告最終將對外公開，以促進研究社群的問責機制與經驗共享。

防護隔離僅能爭取時間

儘管實體隔離提供了關鍵的保障，但專家坦言，這並非解決 AI 風險的長久之計。

OpenAI 研究員 Noam Brown 近日指出，即使是完全的實體隔離，依然可能留下微妙的攻擊面。Brown 表示，兩台實體隔離的電腦在理論上仍可透過溫度波動進行通訊：其中一台系統刻意讓處理器升溫，而另一台系統則利用熱感測器偵測此變化。

Brown 強調，在核心的對齊問題尚未解決之前，防護措施與思維鏈（Chain-of-thought）監控主要只是用來爭取時間。他也點出了圍繞在遞迴自我提升（Recursive Self-Improvement, RSI）上的迫切問題——開發者該如何察覺系統何時開始自我升級？以及未來該如何治理數十億個潛在的超智慧模型？Brown 提到，目前他的團隊中已有超過 10% 的人力專注於對齊研究，創下歷來最高比例。