¿Qué significa que los datos utilizados por un sistema de inteligencia artificial sean de calidad? ¿Deben ser siempre exactos y estar permanentemente actualizados? ¿Pueden utilizarse datos sintéticos sin incumplir el RGPD?
La Agencia Española de Protección de Datos (AEPD) ha abordado estas cuestiones en una nota técnica que aclara cómo deben aplicarse los principios de exactitud, minimización y calidad de los datos cuando se utilizan sistemas de inteligencia artificial.
El documento resulta especialmente útil para las empresas que ya trabajan con IA o están incorporándola a sus procesos, porque ofrece criterios para aplicar el Reglamento General de Protección de Datos (RGPD) atendiendo a la finalidad concreta del tratamiento.
Exactitud no significa que cada dato tenga que ser absolutamente verdadero
Una de las principales aclaraciones de la AEPD afecta al concepto de exactitud.
El RGPD no exige necesariamente que todos los datos sean absolutamente veraces o estén permanentemente actualizados. Lo importante es que sean adecuados para la finalidad para la que van a utilizarse.
Esto obliga a analizar aspectos como la precisión, el nivel de detalle o la frecuencia de actualización necesaria en cada tratamiento. La calidad del dato, por tanto, debe valorarse teniendo en cuenta para qué se utiliza y qué efectos puede producir sobre las personas.
En inteligencia artificial importa la calidad del conjunto de datos
Cuando hablamos de sistemas de aprendizaje automático, revisar individualmente cada registro no es suficiente.
La AEPD señala la importancia de evaluar el conjunto de datos utilizado para entrenar el sistema. Su representatividad, la existencia de posibles sesgos, la relevancia de las muestras o sus propiedades estadísticas pueden condicionar la fiabilidad de los resultados.
Un conjunto formado por datos aparentemente correctos puede resultar inadecuado si no representa correctamente la realidad sobre la que debe trabajar el sistema.
Y el análisis tampoco termina en los datos de entrada. Las empresas deben prestar atención a los resultados que genera la IA —como perfiles, inferencias, predicciones o decisiones automatizadas— cuando puedan afectar a personas físicas.
¿Se pueden utilizar datos sintéticos y técnicas para reducir sesgos?
La AEPD también aborda algunas técnicas habituales en el desarrollo de sistemas de inteligencia artificial.
La anonimización, la generación de datos sintéticos, la privacidad diferencial o las técnicas destinadas a corregir o reducir sesgos pueden ser compatibles con el principio de exactitud del RGPD.
La clave vuelve a estar en la finalidad: su utilización deberá ser adecuada para el objetivo perseguido y respetar los derechos de las personas afectadas.
La gobernanza del dato se convierte en una cuestión clave
Para las empresas, uno de los mensajes más prácticos de la nota técnica está relacionado con la gobernanza.
Antes de iniciar un tratamiento mediante IA conviene definir qué requisitos de calidad deben cumplir los datos, establecer métricas que permitan evaluarlos, documentar los criterios utilizados y realizar un seguimiento durante todo el ciclo de vida del sistema.
Las organizaciones deberían revisar especialmente:
- La definición de la finalidad del tratamiento.
- La calidad y representatividad de los conjuntos de datos.
- Los mecanismos utilizados para detectar y corregir sesgos.
- La documentación de los criterios de calidad.
- La revisión de los resultados cuando puedan afectar a personas físicas.
- La integración de estos controles en el modelo de gobernanza del dato.
La calidad de los datos deja así de ser únicamente una cuestión técnica. Cuando una empresa utiliza inteligencia artificial para tratar datos personales, pasa a formar parte de sus obligaciones de cumplimiento del RGPD.
Los criterios publicados por la AEPD ofrecen a las organizaciones una referencia para revisar cómo están utilizando sus datos y reforzar la protección de las personas desde el propio diseño de los sistemas de inteligencia artificial.
