Kolibri: El modelo de IA alemán que pesa 78 GB pero piensa con 3.5 GB

Un equipo alemán acaba de lanzar un modelo de IA con un objetivo muy claro: hacer que la IA soberana sea práctica, en lugar de solo un concepto político.

El Kolibri de Aleph Alpha es un LLM open-weight con 78.100 millones de parámetros, pero con un truco: solo usa ~3,46 mil millones por token (4,4 %). Ese diseño tipo Mixture-of-Experts (MoE) le permite ofrecer rendimiento cercano a modelos mucho más pesados, mientras mantiene su enfoque centrado en el alemán y la privacidad.

¿Qué significa "IA soberana" aquí? No es marketing vacío. Según Aleph Alpha, Kolibri fue construido por equipos en Alemania, entrenado en infraestructura de Alemania y Finlandia bajo leyes alemanas y europeas, sin control extranjero. Es decir: cualquier organización puede ejecutarlo en sus propios servidores, con sus datos dentro de sus muros.

El modelo tiene 50 capas, 384 expertos por capa más un experto compartido. Un router selecciona 6 expertos por token. El resultado: se comporta como un modelo de 3,5B de parámetros, pero necesita 78 GB de RAM GPU para cargar todos sus pesos. Requiere al menos 2 GPUs NVIDIA de 80 GB (A100/H100) o una GPU de gama alta (H200/B200/B300).

Uno de sus puntos fuertes es el lenguaje alemán. Kolibri cuenta con un tokenizer UniBPE de 128.000 tokens, entrenado para respetar las palabras compuestas alemanas. En texto legal alemán, necesita hasta un 15 % menos de tokens que el tokenizer de GPT-5, lo que le permite leer más texto en la misma ventana de contexto.

Contexto gigante para documentos largos. Utiliza atención de ventana deslizante (512 tokens) en la mayoría de sus capas, con una capa de atención completa cada 5 capas. Esto le permite escalar hasta 1.000.000 de tokens de contexto, con validaciones hasta 1M. Es ideal para contratos, leyes, manuales técnicos o documentos corporativos extensos en alemán.

La abstención activa es otra característica notable. Aleph Alpha lo entrenó específicamente para admitir cuando no tiene evidencia para responder (en lugar de alucinar). En sus pruebas de abstención con documentos de soporte (RAG "when-not-to-answer"), Kolibri dijo "no sé" o dio respuestas parciales en un 44 % de los casos, frente a 11,1 % de Qwen3.5 35B-A3B y 23,7 % de GPT-OSS 120B. Ese enfoque conservador es valioso para sectores regulados (salud, jurídico, público).

En evaluaciones sobre alemán, Kolibri supera a otros modelos MoE de tamaño similar, destacando especialmente en matemáticas (AIME 2025/2026). Su debilidad: trivia cerrada (preguntas sin documentos) — ahí sacrifica memoria factual a cambio de honestidad y precisión con RAG.

El modelo está liberado bajo Apache 2.0 en Hugging Face (pesos + configuración). Eso significa que cualquier organización puede descargarlo, afinarlo y desplegarlo localmente, sin depender de APIs extranjeras. Para despliegue con vLLM 0.29, basta con especificar el modelo y, para contexto completo de 1M, habilitar las opciones de contexto extendido.

¿Cuándo usarlo? Cuando necesitas que el modelo razone en alemán, trabaje con documentos largos bajo tu control y prefieras que diga "no sé" antes que inventar una respuesta. Para código, trivia general o hardware limitado (menos de 78 GB VRAM), hay mejores opciones.

Kolibri no busca ser el modelo más grande o el más general — busca ser el modelo más responsable para entornos donde la soberanía y la precisión importan más que el marketing.

Comparte esto si crees que la IA soberana debería priorizar la honestidad sobre la verborrea.