ThinkingCap-Qwen3.8-27B: un 37% menos de razonamiento con casi la misma precisión

BottleCap AI ha publicado ThinkingCap-Qwen3.8-27B, un ajuste del modelo Qwen3.8-27B que recorta cuánto razona antes de responder, sin perder apenas precisión. Es el segundo modelo de su serie ThinkingCap, tras uno similar sobre Qwen3.6-27B. La idea de fondo es que muchos modelos de razonamiento gastan más tokens pensando de los que la pregunta necesita, y que buena parte de ese exceso no cambia la respuesta final.

Los números del ajuste

Según el propio anuncio de BottleCap y MarkTechPost, en las 12 pruebas que la empresa usa para medir el modelo, gasta un 37,2% menos de tokens de razonamiento de media, mientras la precisión media baja de 86,65% a 85,79%, una caída de 0,86 puntos porcentuales. La reducción de tokens varía mucho según la prueba, entre un 10,7% y un 65,5%, según RealityHacker. En la métrica de contexto largo AA-LCR, la precisión incluso subió 2,25 puntos, aunque en la prueba de matemáticas AIME 2026 cayó 3,85 puntos. Son cifras de la propia empresa, medidas con su propio conjunto de pruebas.

Cómo se ha hecho

Según el blog de BottleCap, no se añadió conocimiento ni se cambió el estilo de las respuestas: el objetivo único fue acortar el razonamiento previo manteniendo la misma respuesta final. Funciona como sustituto directo de Qwen3.8-27B en los mismos servidores, sin cambiar la configuración de muestreo. Está disponible en formatos FP8, NVFP4, GGUF y MLX, según Cryptopond.

Un matiz sobre el esfuerzo de razonamiento

Qwen3.8-27B permite ajustar cuánto esfuerzo de razonamiento aplicar, y la compresión de ThinkingCap se suma a ese ajuste. Según MarkTechPost, en el nivel más alto (xhigh), que es el recomendado por BottleCap, el modelo logra el mejor equilibrio entre precisión y tokens; en niveles medio y bajo, la caída de precisión es algo mayor por cada punto de ahorro. Con el razonamiento desactivado del todo, el modelo se queda 5,7 puntos por detrás del original. Es decir, el ajuste funciona mejor cuanto más se deja pensar al modelo, lo que matiza la idea de un ahorro sin condiciones.

La licencia

Aquí hay un matiz que conviene no pasar por alto: según RealityHacker y MarkTechPost, la licencia es PolyForm Small Business 1.0.0 más una concesión de BottleCap para uso personal, y el uso comercial por encima de un umbral de pequeña empresa requiere un acuerdo con la compañía. No es, por tanto, un modelo de uso libre sin restricciones para cualquier empresa.

Qué implica en la práctica

  • Para quien ejecuta modelos a gran escala: menos tokens de razonamiento significa menor coste de inferencia por respuesta, sin cambiar de modelo base.
  • Para tareas de seguridad: en el modelo anterior de la serie, la compañía afirmó que el ajuste no reduce la tasa de rechazo ante peticiones dañinas o intentos de manipulación, aunque es una comprobación de la propia empresa.
  • Antes de adoptarlo: revisar el nivel de esfuerzo de razonamiento que se va a usar en producción, porque el ahorro y la pérdida de precisión cambian según ese ajuste.

Nuestra lectura

Es una muestra más de la tendencia a optimizar el coste de la IA sin tocar la capacidad base del modelo, en la línea de lo que vimos con la caída de costes de la IA y con otros modelos pequeños de decisión. El recorte de tokens es real y bien documentado por la propia empresa, pero conviene mirar la letra pequeña: la mejora depende del nivel de esfuerzo elegido, y el uso comercial amplio no es gratuito.

Fuentes: anuncio de BottleCap AI, MarkTechPost, Cryptopond y RealityHacker.

3 comentarios en «ThinkingCap-Qwen3.8-27B: un 37% menos de razonamiento con casi la misma precisión»

Deja un comentario