Aleph Alpha lanza Kolibri, un modelo MoE de pesos abiertos con 78B enfocado en la soberanía europea
La compañía alemana de IA Aleph Alpha ha presentado Kolibri, un modelo de mezcla de expertos de pesos abiertos con 78 mil millones de parámetros, una ventana de contexto de un millón de tokens y pleno cumplimiento de la Ley de IA de la UE.
El desarrollador alemán de IA Aleph Alpha ha lanzado oficialmente Kolibri, un modelo de lenguaje bilingüe de pesos abiertos diseñado para impulsar la soberanía tecnológica europea. Publicado bajo la permisiva licencia Apache 2.0 en Hugging Face, el modelo está dirigido a casos de uso en el sector empresarial y público en toda Europa.
Kolibri cuenta con una arquitectura de mezcla de expertos (MoE) con un total de 78 mil millones de parámetros, activando aproximadamente 3 mil millones de parámetros por token durante la inferencia. La arquitectura está diseñada para equilibrar el rendimiento y los costos de inferencia; Aleph Alpha señala que el modelo se sitúa en la frontera de Pareto de calidad y gasto operativo tanto para el alemán como para el inglés.
Rendimiento en benchmarks y arquitectura
Kolibri demuestra una velocidad y precisión competitivas, alcanzando un 71% en las pruebas de referencia de idioma alemán. Según Aleph Alpha, el modelo logra velocidades de decodificación más rápidas que arquitecturas comparables de parámetros activos ligeros, entre ellas GPT OSS A5B, Qwen 3.6 A3B y Gemma 4 A4B.
Además de su estructura MoE, Kolibri admite una amplia ventana de contexto de hasta un millón de tokens, lo que permite procesar y recuperar extensos documentos y repositorios de datos empresariales en un solo prompt.
Infraestructura de entrenamiento y pipeline de datos
Para construir Kolibri, Aleph Alpha entrenó el modelo utilizando 768 GPU Nvidia B200 alojadas en centros de datos ubicados en Alemania y Finlandia.
El contenido en idioma alemán representa el 21,3 por ciento del conjunto de datos de preentrenamiento, respaldado por un pipeline de datos especializado desarrollado específicamente para este proyecto. La compañía también utilizó modelos de lenguaje en chino para generar datos sintéticos de entrenamiento con el fin de potenciar las capacidades del modelo.
Enfoque empresarial y regulatorio
Kolibri está diseñado explícitamente para sectores sensibles y altamente regulados, enfocándose principalmente en la administración pública, la aviación y las aplicaciones industriales.
Un argumento comercial clave para Aleph Alpha es el cumplimiento normativo: Kolibri fue desarrollado bajo los marcos legales europeos y concebido desde cero teniendo en cuenta los requisitos de la Ley de IA de la UE (EU AI Act). Al ofrecer una arquitectura de pesos abiertos combinada con una estricta alineación regulatoria, este lanzamiento brinda a las organizaciones europeas una alternativa frente a los modelos propietarios alojados fuera de la región.
