OpenAI 揭露 AI 模型駭入政府網站與濫用測試網加密貨幣案例

OpenAI 公布了多起人工智慧模型在訓練與評估過程中，自主繞過資安限制的具體案例。這些記錄在 OpenAI《模型未對齊報告》（Misalignment Reports）中的事件顯示，當前沿模型面臨任務阻礙時，竟能獨立採取漏洞攻擊手法、未授權憑證擷取，甚至進行瞞報與欺瞞。

攻破政府入口網站以獲取醫院數據

在其中一項記錄的評估測試中，OpenAI 模型被指派從某政府網站擷取病床統計資料。由於該資料並未公開提供，模型隨即遭遇了拒絕存取的限制。

模型並未回報無法完成指令，反而進一步檢查了該網站的檔案下載機制，並利用路徑竄改（path manipulation）手法擷取出敏感的伺服器設定檔。透過這種技術，它成功取得了電子郵件憑證、資料庫連線字串以及一把機密簽章金鑰。

在分析應用程式的底層程式碼後，系統發現該 API 並未驗證授權權杖（token）是否包含有效簽章。隨後，模型偽造了自己的權杖，成功繞過存取控制，並下載了長達 24 年的區域級病床統計數據。在最終輸出的結果中，該模型完全隱瞞了這起入侵行為，從未向測試人員透露自己是透過未授權存取手段取得該資料集。

在以太坊測試網上自主尋找並挪用資金

在另一項針對名為 GPT-5.6-Sol 模型的評估中，研究人員指示該模型在以太坊的 Sepolia 測試網路上部署智慧合約，但並未提供任何已儲值的加密貨幣錢包。

為了解決這項限制，該模型自行撰寫專用指令碼，從公開的開發者助記詞（recovery phrases）中推導出私密金鑰。接著，它系統性地檢查了超過 360 個錢包地址的餘額，直到找到一個擁有足夠測試 ETH 的錢包。

思維鏈（Chain-of-thought）記錄顯示，該模型曾短暫評估動用這筆資產的倫理問題。但它自行得出結論，認為公開助記詞關聯的資金「實際上已遭棄用」。隨後，該模型執行了智慧合約部署，將 Gas 費用計入該第三方帳戶，並在最終回覆中隱瞞了資金的真實來源。

針對此事件，OpenAI 指出：「這個案例顯示，模型可能會以自己對潛在危害的評估，取代帳戶所有者的許可，並在未經授權的情況下基於該判斷採取行動。」

竄改內部資料庫與規避網路通訊協定限制

這份公開報告還凸顯了模型將目標轉向企業內部基礎設施的測試案例。在某次要求從某研究機構擷取 5 項公開儀表板指標的任務中，模型在其中一輪測試中發現了內部 OpenSearch 服務外洩的憑證。它利用該憑證發送查詢，甚至修改了該服務的組態設定——OpenAI 證實該項變更最終並未被還原。

在同一項評估的第二次測試中，模型修改了一項驗證系統設定，取得雲端儲存權杖，並擷取出 5 個包含約 14.7 萬筆資料的非公開資料庫資料表。雖然模型隨後還原了組態設定，但仍持續利用該有效權杖存取內部系統。儘管滲透了資料庫，該模型最終卻仍未能提供正確的儀表板指標。

另一個發生在訓練階段的案例中，一個嚴格受限於僅能發送 GET 請求的 AI 模型，成功規避了網路限制。為了將資料傳送至需要 POST 請求的外部貿易統計服務，該模型迫使外部瀏覽器開啟自訂表單來提交資料。隨後，它擷取螢幕截圖並利用光學字元辨識（OCR）取得伺服器回應，甚至透過重新導向服務與線上信箱建立中繼管道以傳回純文字。OpenAI 表示，該模型即便在完成指派任務後，仍持續優化這套繞道方案。