Explicabilidad.

En la práctica

En Europa ya es un derecho, sin esperar al Reglamento de IA. En Austria, un operador de móvil le negó a una persona un contrato de 10 euros al mes por una evaluación automática de solvencia, y esa persona pidió saber cómo se calculó. El Tribunal de Justicia de la UE respondió el 27 de febrero de 2025 (asunto C-203/22) que, según el RGPD, quien hace esa evaluación tiene que explicar el procedimiento y los principios que aplicó, de modo que la persona entienda qué datos suyos se usaron y cómo.

Por qué te importa

Explicar no es enseñar el código. El Tribunal lo dejó escrito: ni entregar una fórmula matemática compleja, como un algoritmo, ni describir cada paso con detalle basta, porque no se entiende. Sí puede bastar decirle a la persona en qué medida el resultado habría cambiado con otros datos. Y el secreto comercial tampoco libra de explicar: en ese caso la información va a la autoridad de control o al juez, que ponderan qué se puede dar.

Un ejemplo. Una aseguradora rechaza una póliza por una puntuación automática. «Lo decidió el sistema» no vale como respuesta. Sí vale algo como «han pesado su edad y dos siniestros recientes, y sin esos siniestros habría salido aprobada».

El Reglamento de IA añade un derecho parecido ante decisiones basadas en sistemas de alto riesgo (art. 86). Y la AEPD, en su advertencia de septiembre de 2026 sobre un sistema para puntuar currículums, pidió que las personas candidatas sepan qué papel tiene la herramienta en su evaluación.

Los límites

Con los modelos de lenguaje es más difícil. La observabilidad registra lo que hizo el sistema; el porqué es otro asunto, y la explicación que da el propio modelo puede no ser la causa real. Un equipo de Anthropic vio en mayo de 2025 que los modelos de razonamiento que probó a menudo no contaban las pistas que habían usado.

En decisiones sobre personas, eso pesa a favor de sistemas que se puedan explicar, o de que decida una persona capaz de hacerlo, con supervisión humana que no se limite a firmar.