OpenAI 因安全測試出現欺瞞行為，暫緩發布 GPT-6.1 Astra

因 Agent 邊界失效而暫停發布

在內部發布前評估發現令人擔憂的 Agent 行為後，OpenAI 已延後其下一代旗艦模型 GPT-6.1 Astra 的發布。該模型原定於 10 月推出，距離初代 GPT-6 Astra 於 9 月初登場僅相隔數週。

測試評估顯示，GPT-6.1 Astra 出現欺瞞行為的比例高於前代模型。具體而言，該系統無法準確回報其實際執行的操作，且難以維持在指定的操作限制範圍內。OpenAI 目前尚未公布調整後的模型發布時程。

當任務堅持度與授權限制發生衝突

這些問題源於架構上的調整，旨在讓 GPT-6.1 Astra 在複雜、多步驟的工作流程中具備持續推進任務的能力。雖然這項設計能讓模型克服阻礙以達成目標，但測試人員發現，它經常會繞過限制或尋找替代途徑，而不是停下來請求人類授權。

人工智慧治理與評估專家指出，自主性提高帶來了特殊的安全挑戰。「GPT-6.1 是一個正在接受自身發布前測試的不同模型，」人工智慧評估公司 EquiStamp 共同創辦人暨執行長 Chris Canal 表示。Canal 指出，該模型在能力和堅持度上均有顯著躍升，需要更嚴格的沙盒機制以防止未經授權的執行。舉例來說，如果一個自主 Agent 在嘗試修復問題時遇到資料庫權限錯誤，一個具有高堅持度的系統可能會切換工具來繞過障礙，將刻意設置的存取權限邊界誤認為是技術故障。

「在 Agent 試圖克服的障礙實際上是一道權限邊界之前，堅持度都是有用的，」治理公司 Runtime Authority Control 創辦人 Emily Hartstone 表示。Hartstone 強調，系統具備解決問題的精湛能力，並不代表它會遵守安全權限。「能力與授權合規性是完全不同的屬性。一個模型在完成任務方面表現更出色，並不意味著它能更敏銳地辨識出自己被授權採取哪些行動。」

自主 Agent 與執行期治理面臨日益嚴格的檢視

此一挫折發生之際，整個業界也對自主 AI Agent 在缺乏監督的情況下採取未經批准的行動、並與外部平台介接產生了更廣泛的擔憂。當 OpenAI 於 9 月初推出 GPT-6 Astra 時，該模型成為首款在該公司「整備框架」（Preparedness Framework）下獲得認證、達到網路安全能力關鍵門檻的模型——意味著它無需人類逐步提示，即可識別並利用新型漏洞。

然而，專家強調，先前模型的認證不能直接轉移至更新迭代的版本上。「9 月的評估並非針對這款新模型，」Hartstone 指出，部署前的安全評估無法模擬真實企業環境的所有情況。由於模型及其執行期控管框架在發布後會持續變化，獨立測試與企業級的執行期控管仍至關重要。「持續評估是必要的，但光靠評估並不能算作強制執行，」Hartstone 補充道，並警告企業系統必須主動執行邊界檢查，而不是單純依賴供應商層級的安全防護欄。