Datos sintéticos.

En la práctica

La AEPD los define, en noviembre de 2023, como datos generados artificialmente que deben conservar las características de los reales para un caso de uso concreto. Sirven para tres cosas: entrenar modelos, probar sistemas con casos raros que casi no aparecen en los datos reales, y compartir o analizar información sin exponer a nadie.

Microsoft los usa a fondo en sus modelos pequeños Phi. El primero, de junio de 2023, se entrenó con 6.000 millones de tokens de la web y 1.000 millones de libros de texto y ejercicios generados con GPT-3.5. Phi-4, de diciembre de 2024, los incorpora en todo el entrenamiento, y su informe reconoce que los Phi anteriores eran en buena parte una destilación de GPT-4.

Un ejemplo. Un banco mediano prueba su asistente, antes de lanzarlo, con miles de conversaciones ficticias que incluyen casos raros como un fraude, el fallecimiento de un titular o una reclamación encadenada. Si las fabrica a partir de conversaciones reales, antes evalúa con su delegado de protección de datos el riesgo de reidentificar a alguien.

No hay que confundirlos con el contenido sintético del artículo 50, que es el texto, la imagen o el vídeo que genera una IA.

Por qué te importa

No son anónimos por definición. La AEPD recuerda que crearlos a partir de datos personales reales ya es un tratamiento sometido al RGPD, que obliga a evaluar el riesgo de reidentificación, y que esa evaluación puede salir negativa. Los parcialmente sintéticos, que mezclan variables reales con otras fabricadas, tienen más riesgo.

Los límites

En julio de 2024, un trabajo publicado en Nature mostró que entrenar modelos sin control con datos generados por otros modelos produce defectos irreversibles, el llamado model collapse, y lo poco frecuente de los datos originales desaparece. Otro trabajo, de Gerstgrasser y otros (abril de 2024), acota el problema: el colapso aparece cuando los sintéticos sustituyen a los reales, y no cuando se suman a ellos.

Para una empresa mediana, el riesgo más cercano probablemente es otro. Los datos copian los sesgos y errores del modelo que los genera, y la AEPD advierte de que cuesta imitar los valores atípicos de los reales.