Alucinación.

Por qué pasa

El modelo aprende a escribir texto plausible, no a separar lo verdadero de lo falso. Con datos que aparecen muchas veces en lo que leyó, acierta. Con los que aparecen una sola vez, no tiene patrón y rellena. Además, se le mide con exámenes que dan un punto por acierto y cero por «no lo sé», así que adivinar le sale a cuenta. Lo explican Kalai y otros autores de OpenAI y Georgia Tech en un trabajo de septiembre de 2025.

Hay dos tipos, y el segundo es el que más toca a una empresa: el dato inventado sin ningún documento delante, y el resumen que añade algo al documento que se le ha dado. En la clasificación de Vectara de septiembre de 2026, los modelos más conocidos hacen esto último en un 6 % a 12 % de los resúmenes.

Por qué te importa

Porque lo que sale firmado es tuyo. En 2025, Deloitte entregó al Gobierno australiano un informe de unos 440.000 dólares australianos con referencias que no existían y una cita inventada de una sentencia. Devolvió el último pago del contrato, algo más de 97.000 dólares australianos. Reconoció que había usado GPT-4o, aunque no atribuyó los errores a la IA.

En febrero de 2024, un tribunal de la Columbia Británica condenó a Air Canada por lo que su chatbot le dijo a un cliente: la empresa responde de lo que dice su web, chatbot incluido. Y en junio de 2023, un juez de Nueva York multó con 5.000 dólares a dos abogados y a su despacho por presentar sentencias que se había inventado ChatGPT. El juez dejó claro que usar IA no era el problema; no comprobar lo que decía, sí.

Los límites

«El modelo nuevo ya no alucina» no se sostiene: en la clasificación de Vectara, los modelos de razonamiento no salen mejor, y las cifras del 1 % que circulan son de una versión antigua de esa prueba. Lo que sí lo reduce: dejar que el modelo diga «no lo sé», pedirle citas literales del documento y quitar lo que no tenga cita, y que una persona revise lo que sale a un cliente.