GREY97

Modelo pequeño.

Un modelo pequeño es un modelo de lenguaje con muchos menos parámetros que los grandes, pensado para tareas concretas. Es más rápido y barato y, en algunos casos, cabe en un portátil o en un servidor propio.

TÉRMINO DEL GLOSARIOPUBLICADO EL 2 DE OCTUBRE DE 2026

LinkedInWhatsApp

En la práctica

Se llama así a dos cosas. La primera son modelos que se pueden ejecutar en equipos propios. Microsoft presentó en abril de 2024 Phi-3-mini, con 3.800 millones de parámetros, para usarlo en el propio dispositivo y sin conexión, y lo dejó descargable en Hugging Face. El más pequeño de los modelos abiertos que OpenAI publicó en agosto de 2025 funciona con 16 GB de memoria.

La segunda es la gama barata de cada fabricante, que se usa por API. OpenAI presenta GPT-6 Luna como su modelo más eficiente para tareas concretas y de mucho volumen, y cuesta cien veces menos por token que GPT-6 Astra, a precios de lista de octubre de 2026. Su ficha no dice cuánto mide.

Los grandes laboratorios usan a menudo la destilación, con un modelo grande de profesor, para sacar versiones más pequeñas y baratas de los suyos, según escribió Anthropic en febrero de 2026. DeepSeek publicó en enero de 2025 seis modelos destilados de su R1, de entre 1.500 y 70.000 millones de parámetros.

Por qué te importa

Un ejemplo. Una empresa recibe miles de correos al día y quiere separarlos por tipo y urgencia. Es una tarea estrecha y repetida, en la que un modelo grande sobra y uno pequeño puede bastar, más rápido y por una fracción del coste. Si además corre en un servidor propio, los correos no salen de la empresa.

Los límites

Rinde en la tarea para la que se eligió y poco fuera de ella. Hasta AWS, que anuncia modelos destilados hasta un 500 % más rápidos y un 75 % más baratos (cifras suyas), los plantea para un caso de uso concreto. Y el tamaño, por sí solo, no dice cómo va a rendir. En la clasificación de Vectara de septiembre de 2026, Phi-4 de Microsoft añade algo que no estaba en el documento en el 3,7 % de los resúmenes, y su versión mini, en el 23,5 %.

Antes de cambiar el modelo grande por uno pequeño, hay que probarlo con casos reales y medirlo con evals. Y si lo ejecutas tú, el mantenimiento, la seguridad y las actualizaciones también son tuyos.

Fuentes

  1. Microsoft, «Introducing Phi-3: Redefining what's possible with SLMs», 23 de abril de 2024.
  2. Hugging Face, «Welcome GPT OSS, the new open-source model family from OpenAI!», 5 de agosto de 2025.
  3. DeepSeek-AI, «DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning», arXiv, 22 de enero de 2025.
  4. OpenAI, fichas de los modelos GPT-6 Luna y GPT-6 Astra, consultadas el 2 de octubre de 2026.
  5. AWS, «Amazon Bedrock Model Distillation is now generally available», 1 de mayo de 2025.
  6. Anthropic, «Detecting and preventing distillation attacks», 23 de febrero de 2026.
  7. Vectara, «Hallucination Leaderboard», actualizado el 22 de septiembre de 2026.
CÓMO CITARLO

GREY97, «Modelo pequeño», Glosario. grey97.com/biblioteca/glosario/modelo-pequeno/

Si le sirve a alguien de tu equipo, pásaselo.

LinkedInWhatsApp

Cada término sale de un jueves. Pide sitio y accede a la comunidad.

PEDIR SITIO