研究發現：在 AI 協助的模型開發中，仍由人類掌握決策主導權

事件概述、參與者與時間

2026 年 9 月 27 日，中國復旦大學的研究人員發表了一項研究，探討人類參與者與 AI 代理人如何協同打造新一代具代理能力的語言模型 Atria Dawn Preview。此調查涵蓋了 56 位參與者在模型開發流程中產生的超過 700 筆任務紀錄。

研究主要發現

• AI 參與度幾乎無所不在：在審查的任務中，有 96.5 % 使用了 AI 代理人。

• 對代理人的依賴日增：在四週期間，代理行動與人類輸入的中位比率從 11 上升至 28.5，顯示參與者隨著專案進展將更多工作交由代理人處理。

• AI 促成的任務：在 455 項完成的 AI 協助任務中，有 151 項（約三分之一）被判定若無 AI 則無法完成，此看法在 56 位參與者中的 27 位中得到共鳴。

• 決策分工：在方法與參數的選擇上，「AI 提案，人類選擇」佔互動的 55.4 %。人類在方法／參數的決策中佔 85.5 %，在目標與範圍的最終決策中佔 93.4 %，而 AI 僅貢獻 9.2 % 的方法／參數決策，最終選擇的貢獻亦止於個位數百分比。

• 問題案例中的人工介入：在 588 項記錄有難度的任務中，人類介入了 76 % 的情況，主要以加入上下文（35.2 %）或診斷問題並切換方法（34.7 %）為主。代理人自行解決了 23 % 的困難任務。完整的人類接管僅出現在 0.7 % 的案例，部分編輯則佔 3.2 %。

• 回饋迴路：在收到人類回饋後，AI 會在 75.4 % 的情況下修正自身輸出，顯示執行而非判斷是瓶頸所在。

• AI 角色的演變：作者概述了三個階段——研究對象、任務層級工具與專案夥伴——目前 AI 已在由人類設定的目標內草擬與調整計畫。推測的第四階段將涉及遞迴自我改進，然而研究指出現有模型雖能在訓練任務上提升表現，卻未必能更好地設計後繼者。

• 橡皮圖章風險：論文警告，隨著代理人處理更長的工作鏈，人類監督可能退化為僅僅的「橡皮圖章」，尤其是參與者為了便利而自行讓代理人運作，而非依設計流程。

產業背景與相關發展

此研究結果發表於遞迴自我改進的激烈討論之際。Anthropic 執行長 Dario Amodei 呼籲對 AI 研究設置速度上限，指出在 Anthropic 內，人類對研究方向的決策已僅佔個位數百分比。據稱 OpenAI 在整個開發週期中使用 GPT‑5.6 Sol，Google 與 DeepMind 則使用類似 Dream‑RSI 的代理人探索替代搜尋策略，但並未用於重新設計模型本身。近期已有超過千名 AI 產業員工警告，他們的公司可能正處於全面自動化 AI 研究的臨界點。普林斯頓大學與英國 AI 安全研究所的另一項研究與復旦的結果相呼應，顯示前沿模型在研究工程方面表現優異，卻在最終關鍵的高層判斷上表現不足。