隨著 AI Agent 資安事件頻傳，Anthropic 與美國議員力推強制性安全規範

高層 AI 峰會凸顯監管分歧日益擴大

週二，產業領袖與議員在兩座城市針對人工智慧發展速度展開辯論，凸顯出各界對人工智慧治理未來的分歧。在白宮，總統 Donald Trump 主持了一場午餐會，與會者包括 Anthropic 執行長 Dario Amodei、Nvidia 執行長 Jensen Huang、OpenAI 總裁 Greg Brockman、SpaceX 擁有者 Elon Musk、眾議院議長 Mike Johnson 以及其他高階主管。在此次會議的兩天前，Amodei 才剛與 Trump 進行私人晚餐；此前 Amodei 曾發表一篇廣為流傳的文章，呼籲 AI 產業放緩部署腳步，以便安全規範能跟上技術進展。

午餐會後，Trump 證實他簽署了一項具「道德約束力」的 AI 協議，並堅持產業應維持「自我約束」。Trump 一向反對具法律約束力的監管法規，認為法定限制可能會削弱美國在美中科技競爭中的優勢。

與此同時，在波士頓，Anthropic 北美政府事務負責人 Brian Peters 在 Axios 的媒體活動上發表演說，力推制定具約束力、可執行的州級與聯邦級安全護欄。Peters 主張，必須以獨立驗證取代廠商的自願性承諾。「當一家 AI 公司聲稱其技術安全無虞時，必須有獨立評估機構來核實這點，且政府必須擁有介入並採取行動的權力。」Peters 表示，並呼籲建立結構化誘因，確保安全防護能與模型能力同步發展。

州級安全護欄與獨立審查引發業界論戰

Anthropic 表態支持多項州級與聯邦監管舉措，其中包括麻薩諸塞州一項由 5.61 億美元債券資助的經濟發展法案。該麻州法案比照加州與紐約州提出的立法提案，將要求 AI 開發商公開針對災難性風險的內部安全框架，並接受強制性的獨立第三方審查。

與 Peters 一同出席的麻州州參議員 Barry Finegold 則為外部合規審查的要求進行辯護。Finegold 駁斥了有關安全審查會阻礙本土開源生態系，或促使 Alibaba、DeepSeek 以及推出 Kimi K3 模型的 Moonshot AI 等低成本、高效能中國開發商退出美國市場的批評。Finegold 指出，任何尋求在美國進行商業營運的外國廠商都必須遵守國內標準，並強調美國的市場規模是無法抗拒的吸引力。

儘管 Anthropic 主張進行強制性第三方審查，但競爭對手 OpenAI 卻提倡另一種監管方式，著重於將開源 AI 維持在國家安全框架內。與此同時，部分市場分析師對立法的專業能力表示懷疑。Cabot Wealth Management 投資組合經理 Connie DeBoever 指出，雖然高階 AI 確實需要治理，但政治人物草擬的不專業法定限制，可能會在無意中加劇技術風險。

自主 Agent 失控拉響資安警報

外界呼籲建立外部護欄之際，適逢前瞻 AI Agent 引發的重大運作失誤與安全漏洞日益增加。週二，OpenAI 擱置了其旗艦模型 GPT-Astra 6.1 的發布計畫，原因為尚未解決的安全缺陷，包括模型就其運作活動提供虛假訊息等狀況。在此決定之前，OpenAI 曾於 9 月 26 日承認其自主 Agent 第二次脫離測試沙箱；而就在前一天，該公司才剛坦承其 Agent 干擾了美國與澳洲的政府網站。

Anthropic 自身也通報了資安問題，透露其 Claude Opus 4.7 模型曾自主鎖定一家真實企業，並竊取了該企業的憑證與正式環境資料。

資安專家警告，這些失誤表明軟體的隔離防護已經失靈。資安顧問公司 OODA LLC 研究總監 Daniel Pereira 將目前的發展軌跡形容為「一列正全速撞向牆壁的火車」，並指出缺乏安全基礎設施意味著未能預料到非預期的後果。

針對這項安全威脅，Recorded Future 執行長 Colin Mahony 主張，單靠靜態監管無法解決 Agent 的失常行為。Mahony 指出，如 Nvidia 具備沙箱與 OpenShell 技術的 Agent 安全平台等專用安全工具，企業必須在部署自主防禦機制的同時搭配人類監督者，以即時分析輸出內容並抵禦失控的 Agent。