Inferencia.

En la práctica

Un modelo vive dos momentos. El entrenamiento, que hace el fabricante una vez por versión, y la inferencia, que ocurre cada vez que alguien pregunta algo, un agente da un paso o se resume un documento. En castellano la palabra suena a deducir; aquí solo quiere decir usar el modelo. Google la define así en su glosario: usar un modelo entrenado para generar la respuesta a una petición.

Lo que se paga por la API, en tokens, es inferencia. Y pesa cada vez más en la energía que gasta la IA. El AI Index 2026 recuerda que, con un modelo desplegado a gran escala, la energía de atender las peticiones puede superar en meses la de entrenarlo.

Por qué te importa

Durante la inferencia el modelo no aprende, sus pesos no cambian. Si el proveedor guarda tus conversaciones y las usa luego para entrenar es otra cuestión, que depende de sus condiciones y de tu plan, y se explica en datos de entrenamiento.

A igual capacidad, el precio cae deprisa: según el AI Index 2025, la inferencia de un modelo del nivel de GPT-3.5 pasó a costar más de 280 veces menos entre noviembre de 2022 y octubre de 2024. Pero los modelos de razonamiento gastan más por respuesta, porque pensar también es inferencia y se cobra como salida, así que la factura por tarea puede subir.

Un ejemplo. Un equipo que resume cada noche miles de documentos no necesita la respuesta al momento. Si la manda por lotes, Anthropic y OpenAI le cobran la mitad. Si necesita que los datos se procesen en Europa, OpenAI lo ofrece en algunos modelos con un recargo del 10 %.

Los límites

Cuánto cuesta una inferencia depende de la tarea, del modelo y de cuánto piense antes de contestar. Lo útil es medir con tus datos el coste por tarea, no el precio de un token suelto. Y la energía por consulta varía mucho de un modelo a otro. Entre los quince modelos de 2025 que más gastan, el AI Index 2026 recoge de unos 5 a 23 vatios hora por consulta media.