Deepseek lança DeepInfer em código aberto, o motor de alta velocidade por trás de seu modelo V4.1-Flash

A empresa chinesa de IA Deepseek abriu o código de seu motor de inferência interno, o DeepInfer, sob a licença permissiva Apache License 2.0. O framework serve como o software de processamento central que alimenta o modelo V4.1-Flash da Deepseek, que é atualmente o modelo de IA mais rápido e econômico do laboratório.

Inferência refere-se ao processo no qual um modelo treinado processa solicitações recebidas e gera texto de saída. O DeepInfer foi projetado para lidar com essas respostas de forma rápida e em escala.

Construído sobre o vLLM com eficiência aprimorada

O DeepInfer baseia-se no framework de código aberto vLLM, incorporando kernels de computação otimizados de forma personalizada, capacidades de processamento distribuído em múltiplos chips e técnicas aceleradas de geração de texto.

Juntamente com o DeepInfer, a Deepseek lançou uma ferramenta suplementar chamada deepseek-recipe. Esta ferramenta replica o processamento exato de tokens usado pela API oficial da Deepseek, garantindo que implantações auto-hospedadas se comportem de forma idêntica aos serviços hospedados na nuvem da empresa.

A Deepseek confirmou que o código-fonte de modelos futuros também será lançado como código aberto.

Reduzindo custos e aumentando a pressão competitiva

Em um comunicado publicado no X, a Deepseek afirmou que o objetivo principal do lançamento é "ajudar a comunidade a reduzir os custos de computação, diminuir o uso de energia e tornar a IA mais acessível". Embora os modelos e o acesso à API da Deepseek já tivessem preços significativamente mais baixos do que muitos concorrentes, o lançamento do DeepInfer resolve o obstáculo técnico restante para desenvolvedores que buscam executar configurações auto-hospedadas com custo mínimo.

O lançamento em código aberto adiciona ainda mais pressão de preços sobre fornecedores ocidentais de IA, como OpenAI e Anthropic. No contexto mais amplo da corrida de IA entre EUA e China, observadores do mercado notam que tais lançamentos podem trazer implicações geopolíticas, uma vez que não atingir as projeções de crescimento pode representar riscos financeiros para as empresas de IA ocidentais e para a economia em geral.