Deepseek、V4.1-Flashモデルを支える高速推論エンジン「DeepInfer」をオープンソース化

中国のAI企業Deepseekは、社内で使用されている推論エンジン「DeepInfer」をApache License 2.0の下でオープンソース化した。このフレームワークは、同社の研究所で現在最も高速かつコスト効率に優れたAIモデルである「V4.1-Flash」を支えるコアなサービング・ソフトウェアとして機能している。

推論とは、学習済みモデルが入力されたリクエストを処理し、テキストを出力するプロセスのことだ。DeepInferは、これらのレスポンスを大規模かつ迅速に処理できるように設計されている。

vLLMをベースに効率性を強化

DeepInferはオープンソースのvLLMフレームワークをベースに構築されており、独自に最適化された計算カーネル、複数チップにまたがる分散処理機能、そして高速化されたテキスト生成技術が組み込まれている。

DeepInferと併せて、Deepseekは「deepseek-recipe」と呼ばれる補助ツールも公開した。このツールは、公式のDeepseek APIで使用されているトークン処理を正確に再現するもので、セルフホスト環境でのデプロイメントが同社のクラウド型サービスと同一の挙動を示すことを保証する。

Deepseekは、将来のモデルのソースコードについてもオープンソースとして公開することを認めている。

コスト削減と競争圧力の激化

Xに投稿された声明の中で、Deepseekは今回の公開の主な目的について、「コミュニティが計算コストを抑え、エネルギー消費を削減し、AIをより手頃な価格で利用できるようにするため」と述べている。DeepseekのモデルやAPIアクセスは、すでに多くの競合他社よりも大幅に低価格で提供されていたが、DeepInferの公開により、最小限の費用でセルフホスト環境を運用しようとする開発者にとっての最後の技術的障壁が取り除かれることになる。

このオープンソース化は、OpenAIやAnthropicといった欧米のAIベンダーに対し、さらなる価格競争の圧力をかけるものだ。米中AI競争という広い文脈において、市場観測筋は、こうしたリリースが地政学的な意味合いを持つ可能性があると指摘している。成長予測を下回ることは、欧米のAI企業や経済全体にとって財務的なリスクとなり得るからだ。