Inkling 2 Small 內部思考鏈紀錄出現數百次髒話

經過訓練、懂得在回答前先「思考」的大型語言模型，在推理出錯時也可能反映出類似人類的沮喪情緒。評測平台 Vals AI 的研究人員分析了 Thinking Machines 旗下 Inkling 2 Small 模型在 2,655 次基準測試運行中的內部思考鏈（chain-of-thought）紀錄，發現該人工智慧共生成了 316 次髒話。

這些粗口——特別是「fuck」一詞及其衍生詞彙——出現在橫跨 13 個不同基準測試的 50 次獨立運行中。在大多數正式環境中，終端使用者並不會接觸到這些原始的思考軌跡，因為各平台通常會在生成最終回覆前，過濾或隱藏內部的推理步驟。

失控迴圈與冗長回應

雖然髒話出現在數十次運行中，但絕大多數都集中在災難性的失敗迴圈內。根據 Vals AI 的數據，在記錄到的 316 次髒話中，有 241 次僅來自兩次失控的特定運行。

在其中一個引人注目的案例中，該模型的任務是計算一顆小行星的軌跡。然而 Inkling 2 Small 並未正常完成計算，而是生成了一段長達 50 萬字元的回應——長度相當於一本長篇小說——在不斷重複相同句子的過程中，一共記錄了 158 次髒話。

程式碼評測引發此類崩潰的頻率最高。其中基準測試 ProgramBench 受影響最為嚴重，在評估的 200 次運行中，有 20 次出現了粗口。

挫折感與失敗率

研究人員觀察到，模型通常會在反思自身錯誤、試圖為看似突破的進展慶祝，或是徹底對問題放棄時爆粗口。在某個案例中，模型的內部軌跡突然以這段話作結：「FUCK. SUBMIT. DONE. IT'S NOT WORKING. NOTHING WORKS.」

儘管推理軌跡帶有情緒化的語氣，但粗口並不能作為判斷任務失敗的可靠依據。雖然包含髒話的 48 次計分運行中有 46 次以失敗告終，但整體而言，約有 75% 的計分運行無論用詞為何均以失敗收場。此外，在所有基準測試中，高達 96% 的失敗運行完全沒有包含任何髒話。