Deepseek, V4.1-Flash 모델 기반 고속 엔진 'DeepInfer' 오픈소스 공개

중국 AI 기업 Deepseek가 자체 내부 추론 엔진인 DeepInfer를 아파치 라이선스 2.0(Apache License 2.0)으로 오픈소스 공개했다. 이 프레임워크는 현재 Deepseek 연구소에서 가장 빠르고 비용 효율적인 AI 모델인 V4.1-Flash 모델을 구동하는 핵심 서빙 소프트웨어 역할을 한다.

추론(Inference)이란 학습된 모델이 들어오는 요청을 처리하고 출력 텍스트를 생성하는 과정을 뜻한다. DeepInfer는 이러한 응답을 대규모로 신속하게 처리할 수 있도록 설계되었다.

vLLM 기반 구축으로 효율성 극대화

DeepInfer는 오픈소스 vLLM 프레임워크를 기반으로 구축되었으며, 커스텀 최적화 연산 커널, 다중 칩 간 분산 처리 기능, 가속화된 텍스트 생성 기술을 통합했다.

Deepseek는 DeepInfer와 함께 deepseek-recipe라는 보조 도구도 함께 출시했다. 이 도구는 공식 Deepseek API에서 사용되는 토큰 처리 방식을 그대로 복제하여, 자체 호스팅 배포 환경에서도 회사 클라우드 호스팅 서비스와 동일하게 작동하도록 보장한다.

Deepseek는 향후 선보일 모델들의 소스 코드 역시 오픈소스로 공개할 예정이라고 확인했다.

비용 절감과 경쟁 압박 가중

Deepseek는 X에 게재한 성명을 통해 이번 공개의 주요 목표가 "커뮤니티가 연산 비용을 줄이고 에너지 사용량을 낮추며, AI를 보다 저렴하게 이용할 수 있도록 돕는 것"이라고 밝혔다. Deepseek의 모델 및 API 접근 가격은 이미 여러 경쟁사보다 훨씬 저렴한 수준이었지만, 이번 DeepInfer 공개로 최소한의 비용으로 자체 호스팅 구축을 시도하는 개발자들의 남은 기술적 장벽까지 해소하게 되었다.

이번 오픈소스 공개는 OpenAI 및 Anthropic과 같은 서구 AI 기업들에 추가적인 가격 인하 압박을 가하고 있다. 미·중 AI 패권 경쟁이라는 대형 맥락에서 시장 관찰자들은 이러한 공개가 지정학적 영향을 미칠 수 있으며, 서구 AI 기업들의 성장 전망치 달성 실패가 해당 기업은 물론 전반적인 경제에 재정적 리스크로 작용할 수 있다고 지적한다.