GLiNER2.5-Decide: un modelo abierto de 340 millones de parámetros que decide sin GPU

Fastino Labs ha publicado GLiNER2.5-Decide, un modelo de pesos abiertos de 340 millones de parámetros pensado para tomar decisiones estructuradas dentro de sistemas de agentes, y capaz de funcionar en una CPU normal, sin necesidad de una GPU. No es un modelo conversacional: no razona ni responde preguntas abiertas, sino que clasifica y decide según un esquema fijo. Es un tipo de herramienta menos vistosa que un gran modelo de lenguaje, pero útil para las decisiones pequeñas y repetidas que un sistema de agentes necesita constantemente.

Qué hace exactamente

Según el propio anuncio de Fastino, el modelo recibe un texto y un esquema de preguntas tipadas definidas por quien lo usa, y devuelve respuestas estructuradas con una distribución de probabilidad, una puntuación de confianza y metadatos sobre si las restricciones planteadas son viables. Puede resolver varias preguntas de decisión en una sola llamada, extraer fragmentos y relaciones de texto, y aplicar reglas coherentes entre las distintas respuestas. Está pensado para tareas como el enrutamiento de mensajes, el triaje, la selección de herramientas o la aplicación de barreras de seguridad dentro de un pipeline de agentes.

Rendimiento: cifras propias, con matices

Fastino afirma que el modelo obtiene una precisión media del 60,1% (la ficha en Hugging Face indica 60,2%) en su propia prueba interna, llamada Fast Decisions, con 5.100 ejemplos en 17 conjuntos de datos, por delante de otros modelos de decisión como JevK5, con 57,5%. Una cobertura de DataNorth subraya un matiz importante: es una prueba interna, no un estándar independiente como JevBench, y la propia empresa eligió tanto las pruebas como los rivales con los que se compara. Conviene leer la cifra con esa cautela.

Velocidad y despliegue

Según DataNorth, responde en unos 167 milisegundos en una CPU de 48 núcleos, sin tarjeta gráfica. La licencia es Apache 2.0, lo que permite usarlo sin pedir permiso, y admite ajuste fino completo o mediante LoRA. Fastino también ha publicado variantes: una versión de 1.000 millones de parámetros con un rendimiento algo menor, y una versión multilingüe de 287 millones para texto que no esté en inglés. Al ser de pesos abiertos, puede ejecutarse también en entornos sin conexión a internet, lo que interesa a organizaciones con requisitos estrictos de seguridad de datos.

Sus límites, declarados por la propia empresa

• No explica sus decisiones: es útil cuando basta con una decisión consistente, no cuando hace falta que el sistema razone o justifique su respuesta.
• No sustituye a un modelo grande para tareas abiertas de conversación o generación de texto.
• La confianza no es infalibilidad: un análisis de RealityHacker advierte de que apoyarse en clasificadores probabilísticos para decisiones de seguridad puede plantear problemas de rendición de cuentas, sobre todo si se trata la puntuación de confianza como algo definitivo.

Qué implica en la práctica

• Para equipos con presupuesto ajustado: permite añadir enrutamiento, triaje y comprobaciones de seguridad sin depender de GPU cara ni de llamadas constantes a un modelo grande.
• Antes de usarlo en producción: conviene construir un conjunto de prueba propio con tráfico real y medir la precisión por categoría y los fallos costosos, en lugar de fiarse solo del benchmark del fabricante.
• Para decisiones con consecuencias reales: mantener supervisión humana donde el error tenga un coste alto.

Nuestra lectura

El lanzamiento encaja en una tendencia clara: mientras los grandes laboratorios compiten por la capacidad máxima, aparece una capa de modelos pequeños que compiten por lo que ya no hace falta pagar a esos laboratorios para tareas simples y repetitivas. Es sensato para el enrutamiento y el triaje, siempre que se acepte su limitación declarada: decide, pero no explica. La cifra de rendimiento merece contrastarse con pruebas propias antes de confiar en ella para decisiones sensibles.

Fuentes: anuncio de Fastino, DataNorth, SyncAI.news y RealityHacker.