Deepseek 開源其 V4.1-Flash 模型背後的高速推論引擎 DeepInfer

中國人工智慧公司 Deepseek 已在寬鬆的 Apache License 2.0 授權條款下，開源其內部推論引擎 DeepInfer。該框架是驅動 Deepseek V4.1-Flash 模型的核心服務軟體，而 V4.1-Flash 目前是該實驗室速度最快、最具成本效益的人工智慧模型。

所謂推論（Inference），是指已訓練完成的模型處理傳入的請求並生成輸出文字的過程。DeepInfer 專為大規模且快速處理這些回應而設計。

基於 vLLM 建構，效率大幅提升

DeepInfer 以開源框架 vLLM 為基礎，整合了客製化的最佳化算力核心（compute kernels）、跨多晶片的分散式處理能力，以及加速文字生成的技術。

除了 DeepInfer 之外，Deepseek 還發布了一款名為 deepseek-recipe 的輔助工具。該工具能完全重現官方 Deepseek API 所使用的 Token 處理方式，確保自建部署（self-hosted）的運作行為與該公司的雲端託管服務完全一致。

Deepseek 證實，未來模型的原始碼也將同步開源。

降低成本並加劇市場競爭壓力

Deepseek 在社群平台 X 上發布聲明指出，此次開源的主要目標是「協助社群降低算力成本、減少能源消耗，並讓人工智慧更加平易近人」。雖然 Deepseek 的模型與 API 存取價格先前就已大幅低於許多競爭對手，但 DeepInfer 的釋出，解決了開發者希望以最低成本自行部署時所面臨的最後一道技術門檻。

這項開源舉措對 OpenAI 與 Anthropic 等西方人工智慧廠商帶來了更沉重的價格壓力。在美中人工智慧競賽的大背景下，市場觀察家指出，此類開源行為可能具有地緣政治影響，因為若成長預期未能達標，可能會給西方人工智慧企業及更廣泛的經濟體帶來財務風險。