GREY97

Observabilidad.

La observabilidad es registrar lo que hace un sistema de IA en cada petición (qué recibió, qué instrucciones tenía, qué herramientas usó, qué devolvió, cuánto tardó y cuánto costó) para poder revisarlo después.

TÉRMINO DEL GLOSARIOPUBLICADO EL 2 DE OCTUBRE DE 2026

LinkedInWhatsApp

En la práctica

Cada petición deja una traza, con un paso por cada llamada al modelo o a una herramienta. Hay herramientas especializadas para guardarlas y consultarlas, y el SDK de agentes de OpenAI las genera por defecto.

Para que las trazas se entiendan entre herramientas existe un estándar abierto, las convenciones de OpenTelemetry para IA generativa. A 1 de octubre de 2026 siguen en desarrollo, sin versión estable. Recogen el modelo, los tokens, las herramientas y los tiempos, pero no el coste, que cada herramienta calcula con sus precios. Y el texto de preguntas y respuestas no se guarda por defecto, porque se considera sensible.

Un ejemplo. Un agente que redacta correos comerciales gasta en septiembre mucho más de lo previsto. En las trazas se ve que una parte de las ejecuciones entra en bucle llamando al CRM, y se corrige. Sin trazas, solo se ve la factura.

Por qué te importa

Con las trazas se sabe qué proceso o qué cliente se lleva el gasto, y se puede reconstruir qué pasó cuando llega una reclamación. También son la mejor fuente de casos reales para las evals; por eso OpenAI aconseja registrarlo todo desde el desarrollo.

En la ley, el Reglamento de IA pide que los sistemas de alto riesgo registren automáticamente lo que pasa (art. 12), y que quien los fabrica y quien los usa en su empresa guarden esos registros al menos seis meses (arts. 19 y 26.6). Solo en alto riesgo, y el Ómnibus de julio de 2026 lo aplazó al 2 de diciembre de 2027, o al 2 de agosto de 2028 si la IA va dentro de un producto regulado. Venderlo como obligación general es exagerar.

Los límites

Las trazas dicen qué hizo el sistema, no por qué. Ni siquiera el razonamiento que enseña el modelo es fiel: en mayo de 2025, un equipo de Anthropic vio que los modelos de razonamiento que probó, cuando usaban una pista escondida en la pregunta, lo reconocían a menudo en menos del 20 % de los casos.

Además, alguien tiene que mirarlas. Sin quien revise las trazas o reciba los avisos, lo que queda es un archivo.

Fuentes

  1. OpenTelemetry, «Semantic Conventions for Generative AI», repositorio semantic-conventions-genai, consultado el 1 de octubre de 2026.
  2. OpenAI, «Tracing», documentación del Agents SDK, consultada el 1 de octubre de 2026.
  3. OpenAI, «Evaluation best practices», consultada el 1 de octubre de 2026.
  4. Reglamento (UE) 2024/1689 (Reglamento de Inteligencia Artificial), DOUE de 12 de julio de 2024, artículos 12, 19 y 26.
  5. Reglamento (UE) 2026/1744 (Ómnibus digital sobre IA), DOUE de 24 de julio de 2026.
  6. Chen et al. (Anthropic), «Reasoning Models Don't Always Say What They Think», arXiv, 8 de mayo de 2025.
CÓMO CITARLO

GREY97, «Observabilidad», Glosario. grey97.com/biblioteca/glosario/observabilidad/

Si le sirve a alguien de tu equipo, pásaselo.

LinkedInWhatsApp

Cada término sale de un jueves. Pide sitio y accede a la comunidad.

PEDIR SITIO