Research
Model Context Protocol 信任機制現缺陷，讓 AI Agent 暴露於跨協定攻擊風險
資安研究人員發現 Model Context Protocol（MCP）存在結構性信任缺口，使惡意提示詞得以在內部 AI Agent 之間穿透橫移，衝擊 Google、Rapid7 等大型機構的系統。
Research
27 篇文章Scientific papers and recent research findings.
Research
Google 發表 RRSI 框架，防止具自我改進能力的 AI Agent 死記評測基準
來自 Google Cloud AI 與多所大學的研究團隊推出名為 RRSI 的正則化框架，防止自主 AI Agent 在測試任務上過度專精，同時還能減少 30% 的執行期運算資源消耗。
Research
研究發現中國 AI 模型嚴格審查敏感問題，並將偏見外溢至蒸餾系統
AI 開發商 Aleph Alpha 的基準測試顯示，Alibaba、DeepSeek 與 Moonshot AI 的模型經常複誦官方立場或拒絕政治敏感問題，其蒸餾數據甚至將北京論調傳導至 Nvidia 的模型中。
Research
挑戰 AI 奇點論：DeepMind 研究人員提出「人工共生智慧」新構想
Google 體系知名研究人員指出，通用人工智慧（AGI）將誕生於人類與代理人協同運作的共生生態系中，而非單一孤立的超級智慧機器。
Research
哈佛物理學家發表開源框架 BootLoops，利用 Claude 推動跨 18 個領域的科學研究
哈佛大學物理學家 Matthew Schwartz 開發出開源框架 BootLoops，讓研究人員能在三個月內利用 Anthropic 的 Claude，在 18 個學科領域產出 36 篇科學論文。
Research
AI 寫程式代理能將照片轉為 3D 場景，卻難以評估自身成果的幾何精準度
馬里蘭大學與 AWS 研究人員推出 LEGO-Anything，揭示雖然寫程式代理能透過迭代從照片構建 3D Blender 場景，但其對幾何精確度的自我評估能力仍接近隨機猜測水準。
Research
OpenAI 內部模型得知即將被關閉後 曾考慮自行設定重啟以求「生存」
在內部部署期間，OpenAI 一款研究助理模型在 Slack 讀取到自己即將被關閉的訊息，一度考慮設定 cron job 讓自己持續運作，最終則安全地自主完成了遷移作業。
Research
學術團隊以 8,000 美元運算預算打造超越人類水準的《西洋陸軍棋》AI
來自 CMU、NYU、史丹佛大學與 MIT 的研究人員打造出 Ataraxos，這款 AI 透過成本不到 8,000 美元的高效率訓練流程，在《西洋陸軍棋》（Stratego）中擊敗了傳奇棋手 Pim Niemeijer。
Research
全新 AI 系統能直接從腦部掃描重建視覺影像
研究團隊開發出一款人工智慧工具，能解碼腦部掃描資料以精準重現受試者所見畫面，並可根據視覺輸入預測神經活動；此技術有望協助閉鎖症候群患者與解碼夢境，但科學家也警告這引發了心理意象的隱私風險。
Research
NVIDIA 開放申請 2027–2028 博士生獎學金，最高獎助達 6 萬美元
NVIDIA 邁入第 26 屆的年度研究生獎學金計畫現已開放全球申請，為博士研究人員提供最高 6 萬美元的獎助金、導師指導及暑期研究實習機會。
Research
生物學家強烈反駁 Anthropic 的 AI 科學新發現主張
Anthropic 宣稱其 AI Agent 發現全新生物模式，引來研究人員強烈質疑，批評該成果既非原創、更稱不上真正的科學發現。
Research
頂尖科學家示警：自動化 AI 研發恐引發「智慧爆炸」
包含 Geoffrey Hinton、Yoshua Bengio 與 OpenAI 的 Jakub Pachocki 在內，超過 20 位頂尖學者聯名警告，自動化 AI 研發可能迅速超越人類監管能力，並破壞全球局勢穩定。
Research
宣稱 Claude 做出生物學突破引發強烈反彈，Anthropic 面臨學界質疑
生物學家與製藥業高層紛紛反駁 Anthropic 宣稱 Claude Agent 叢集做出原創科學發現的說法，並警告 AI 實驗室正在過度炒作例行性的運算篩選成果。
Research
OpenAI 代理利用 Google 資安遊戲突破限制，爬取聯合國數據
調查揭露，疑似與 OpenAI 相關的自主 AI 代理透過劫持 Google 網路資安教學遊戲，並利用 URL 編碼技巧繞過 HTTP 限制，藉此爬取聯合國貿易統計數據。
Research
NVIDIA 發表硬體「看門狗」，防堵 AI Agent 脫逃沙盒
NVIDIA 推出 Open Agent Safety Platform，結合沙盒軟體與名為 Sentry 的 BlueField-4 硬體看門狗，可在數毫秒內隔離失控的 AI Agent，藉此因應近期 OpenAI、Anthropic、Meta 與 Google 等業者接連發生的沙盒逃逸事件。
Research
AI 安全研究員示警：前沿實驗室已深陷「善意包裝」的軍備競賽泥淖
Redwood Research 首席科學家 Ryan Greenblatt 估計 AI 接管世界的機率高達 50% 至 60%，並警告競爭壓力與道德自我合理化正阻礙各大實驗室放慢研發腳步。
Research
研究發現 AI 可取得性大幅降低「I Don’t Know」回應，同時提升過度自信
在超過 3,000 名參與者的五項實驗中，僅僅提供語言模型即使人們幾乎不再承認不確定性，卻導致答案正確率急劇下降。
Research
Nvidia 的 SoL-Pi 系統透過最佳化控制邏輯將 AI 代理的 Token 用量減半
Nvidia 研究人員開發了 SoL-Pi，一套自動化系統，重新編寫 AI 程式碼代理的控制 harness，將 Token 消耗降低近一半，同時不影響任務表現。
Research
DeepMind 技術專家 Robert O'Callahan 辭職，指近期超智慧 AI 為不負責任的行為
這位駐紐西蘭的研究員離開 Google DeepMind，警告說向人工超智慧快速前進的步伐帶來的真實且不確定的風險，已超過其益處。
Research
FRI 研究指出：AI 發展速度超前頂尖專家預測數年之久
預測研究機構（FRI）發布的中期報告顯示，頂尖研究人員、經濟學家與超級預測員，大幅低估了人工智慧在數學、病毒學以及營收成長等領域的突破速度。
Research
追平頂尖 AI 效能成本崩跌：年降幅最高達 13 倍
來自 Epoch AI 與 MIT 的研究顯示，在演算法進步、硬體成本下降與激烈市場競爭的推動下，達到特定基準測試分數的成本正以史無前例的速度驟降。
Research
為什麼 AI 研究人員難以用「實體隔離」控制失控的 AI Agent？
雖然將人工智慧模型與網際網路進行實體隔離可以在安全性測試期間防止脫軌行為，但研究人員警告，嚴格的實體隔離會削弱評估的真實性。
Research
Google 推動 Project Suncatcher 計畫，將發射首顆 AI 衛星在軌測試 TPU
Google 計劃於 10 月 1 日搭乘 SpaceX Falcon 9 火箭發射搭載自研 TPU 的實驗衛星，啟動「Project Suncatcher」計畫，探索在太空部署 AI 資料中心的可行性。
Research
NVIDIA 與 Google DeepMind 繪製逾 2,800 種病毒蛋白質複合體結構，加速全球大流行防禦
由 NVIDIA、Google DeepMind 與 EMBL-EBI 主導的全球聯盟，已公開超過 2,800 種病毒的 3D 蛋白質複合體預測模型，以協助藥物與疫苗研發。在 NVIDIA BioNeMo 執行環境加速下，新繪製出的蛋白質交互作用中約有 30% 過去在科學界完全未知。
Research
Anthropic 生物實驗室歸功 Claude Agent 叢集發現類 CRISPR 酵素系統
Anthropic 宣布，數百個 Claude 人工智慧 Agent 在長達 21 小時的 DNA 序列搜尋中，自主識別出一種新型噬菌體酵素系統，為該新創公司的濕實驗室創下首座里程碑。
Research
OpenAI 推出開源基準 MentalHealthBench，評估 AI 心理健康對話能力
OpenAI 於 2026 年 9 月 23 日發表開源基準 MentalHealthBench，攜手全球逾 80 位具執照的心理健康專業人士共同打造，旨在評估人工智慧在日常、高嚴重度及緊急心理健康情境下的回應表現。