Andrej Karpathy 警告：大眾目前看到的只是前沿 AI 的「預告片」
OpenAI 共同創辦人 Andrej Karpathy 提出 AI 應用的四層鴻溝，並警告大眾：雖然一般用戶只看到簡單的聊天機器人，但全球僅約 5,000 人的頂尖菁英，正親眼目睹自主代理（Agent）解決過往需要專家投入數年才能突破的難題。
根據 OpenAI 共同創辦人、現任 Anthropic 研究員 Andrej Karpathy 的說法，公眾對人工智慧（AI）的認知與實驗室內部前沿系統的現實之間，正在迅速拉開一條鴻溝。Karpathy 警告，儘管多數人仍將大型語言模型（LLM）視為日常搜尋或寫作輔助工具，但內部的前沿系統已在執行過去需要專家花費數年心血才能完成的複雜專案。
Karpathy 表示：「外界目前看到的，只不過是現代 AI 真正實力的『預告片』。」
AI 應用的四個層級
為了說明這種落差，Karpathy 將全球人口與 LLM 的互動程度劃分為四個不同層次：
- 尚未接觸的大多數人： 全球約有 60 億人（約佔全球人口 75%）幾乎從未接觸過 LLM。
- 一般消費者： 約有 10 億到 20 億名使用者使用免費版的 ChatGPT 類型工具。這些用戶大多將 AI 視為「稍微好用一點的 Google 搜尋、寫作輔助等工具」。Karpathy 指出，許多非程式設計與數學領域的專業人士（包括企業高階主管）都屬於這一類。由於他們的日常工作重心在於人際溝通，因此對 AI 技術變革的理解大多仍停留在抽象且二手資訊的層面。
- 專業前沿使用者： 全球估計有 2,000 萬人（約佔全球人口 0.2%）定期在數學與程式設計領域使用前沿等級的模型。對這群人而言，自主代理現在只需透過提示詞（prompts），就能完成龐大且複雜的軟體專案——例如從二進位檔案建置、複製、翻譯或反編譯應用程式——而不再需要耗費數週甚至數月的繁重人工工作。
- 前沿菁英： 全球僅有約 5,000 人（僅佔全球人口 0.00006%）能接觸到內部最頂尖、最前沿的系統。
代理群體協作與技術的飛速演進
對於擁有內部權限的極少數人，Karpathy 描述了一個本質上截然不同的科技現實。這些使用者目睹成千上萬個代理組成的群體（swarms of agents）在數週內協同執行龐大的軟體專案：發現全新的科學原理、推進前沿數學、挖掘出零時差漏洞（zero-day vulnerabilities），並以機器運算的速度執行網路攻防戰。
這項技術躍進發生的速度極為驚人。就在 2024 年 10 月，Karpathy 還曾公開將 AI 代理形容為「大多只是炒作且幾乎無法正常運作」。然而僅僅數個月後，他便完全停止手動編寫程式碼，從在編輯器中逐字敲打鍵盤，轉變為讓自主代理來接管整個工作流程。隨後，Karpathy 加入了 Anthropic。
其他科技業領袖也提出了類似的觀察。9 月初在 G20 創新部長級會議上，OpenAI 執行長 Sam Altman 指出，現代 AI 程式設計工具僅需「17 分鐘」就能完成一家新創團隊過去需耗時三個月才能打造出的成果，並警告「全世界尚未真正意識到這意味著什麼」。
認知追趕的困境與下一個前沿
Karpathy 強調，人類審查的速度已經難以跟上模型的產出步伐。他舉例指出，數個月前發生的事件至今仍需要持續分析，並提到數學家們「可能得花好一段時間仔細研讀那 722 篇關於前沿數學的論文手稿」。
他將這種分歧稱為「當下的詭異之處」（weirdness of the moment）：大眾眼中只看到一個「笨拙的聊天機器人」，多數專業人士感受到的是微幅的生產力提升，而極少數頂尖技術專家卻正在經歷「成長曲線垂直飆升所帶來的眩暈感」。
Karpathy 表示，目前 AI 能力在「數位化、可驗證且具備經濟價值」的領域中進展最為迅速。由於當前的模型突破源自於強化學習與可驗證獎勵（verifiable rewards）的結合，各大頂尖 AI 實驗室自然會將算力與訓練資源集中在經濟回報最明確的領域——其中最具代表性的便是寫程式與數學。
