Una herramienta recibe cientos de currículums, analiza los perfiles, asigna puntuaciones y determina qué candidatos encajan mejor con una vacante. Para un departamento de Recursos Humanos, las posibilidades de la inteligencia artificial en los procesos de selección de personal son evidentes.
Pero ¿hasta dónde puede llegar la IA cuando sus resultados influyen en quién continúa en un proceso y quién queda fuera?
La Agencia Española de Protección de Datos (AEPD) ha advertido recientemente sobre las garantías que deben adoptar las empresas que quieran utilizar este tipo de herramientas para evaluar candidaturas y priorizar perfiles.
La cuestión no es impedir su uso. La propia Agencia reconoce las posibilidades de la IA para mejorar la eficiencia y la calidad de los procesos de selección. El punto importante es cómo se implanta, qué datos utiliza y cuánto peso tiene realmente en la decisión sobre una persona.
La protección de datos empieza antes de elegir la herramienta
Uno de los primeros errores puede producirse incluso antes de comenzar a utilizar la IA: contratar una solución y analizar después si cumple las exigencias de protección de datos.
El planteamiento debería ser el contrario.
El principio de protección de datos desde el diseño y por defecto exige estudiar desde las primeras fases qué información personal utilizará el sistema, para qué finalidad y qué riesgos puede generar para candidatos y trabajadores.
A partir de ese análisis deberán establecerse las medidas técnicas y organizativas necesarias.
La privacidad, por tanto, no debería incorporarse al final del proyecto como un requisito adicional. Debe formar parte de la decisión sobre qué herramienta utilizar y cómo configurarla.
¿Cuándo puede ser necesaria una evaluación de impacto?
Cuanto mayor sea la influencia de la IA sobre una decisión laboral, mayor será también la necesidad de analizar sus riesgos.
Cuando el tratamiento previsto pueda suponer un alto riesgo para los derechos y libertades de las personas, será necesario realizar previamente una evaluación de impacto en protección de datos.
No es lo mismo utilizar una herramienta para ordenar información administrativa que recurrir a un sistema que analiza perfiles, puntúa candidatos o influye en su contratación, promoción o descarte.
Por eso, antes de implantar una solución de este tipo, la empresa debería conocer con precisión qué hace el sistema y cómo utiliza la información que recibe.
Los candidatos deben saber qué papel desempeña la IA
La transparencia es otra de las cuestiones destacadas por la AEPD.
Las personas cuyos datos sean tratados deben recibir información clara, accesible y comprensible sobre ese tratamiento y sobre la función que desempeña la herramienta de inteligencia artificial.
No debería bastar con incluir una referencia genérica a la IA dentro de una extensa política de privacidad.
Si un sistema puntúa, clasifica o prioriza candidatos, la persona afectada debe poder comprender que sus datos serán analizados utilizando esa tecnología y qué relevancia tendrá ese análisis dentro del proceso de selección.
Que una persona tome la decisión final no siempre significa que exista control humano
Este es probablemente uno de los puntos más interesantes de la advertencia de la Agencia.
Una empresa puede afirmar que la decisión final siempre corresponde a una persona y considerar, por tanto, que existe supervisión humana.
Pero no necesariamente es así.
Para que exista una intervención humana efectiva, quien decide debe tener capacidad real para revisar críticamente el resultado de la IA, cuestionarlo y apartarse de su recomendación cuando lo considere necesario.
Si el responsable se limita sistemáticamente a aceptar la puntuación que ofrece la herramienta, su participación puede acabar siendo meramente formal.
Dicho de otra forma: que una persona confirme el resultado final no convierte automáticamente el proceso en una decisión humana.
Especial cuidado con las decisiones automatizadas
El Reglamento General de Protección de Datos reconoce el derecho a no ser objeto de determinadas decisiones basadas únicamente en tratamientos automatizados cuando producen efectos jurídicos o afectan significativamente a una persona.
En un proceso de selección, esta cuestión puede resultar especialmente sensible.
La aplicación de esta garantía dependerá de cómo funcione realmente la herramienta y de la intervención humana existente.
Por eso, la empresa debe saber qué peso tiene la puntuación generada por la IA. ¿Es simplemente un dato que el seleccionador valora junto con otros elementos? ¿Determina quién pasa automáticamente a la siguiente fase? ¿Puede dejar fuera a un candidato sin que nadie revise el resultado?
Conocer el funcionamiento real del sistema resulta más importante que limitarse a afirmar que se utiliza IA como apoyo.
La advertencia de la AEPD no es una sanción
Existe otro matiz importante.
En el supuesto analizado, la herramienta todavía no había sido implantada. La actuación de la AEPD tiene carácter preventivo y no significa que la empresa hubiera cometido ya una infracción.
El RGPD permite a la autoridad de control advertir cuando considera que un tratamiento previsto podría vulnerar la normativa.
Precisamente ahí está el valor de esta actuación: detectar los riesgos antes de que la herramienta empiece a utilizarse y dar a la organización la posibilidad de revisar su proyecto.
Qué debería revisar una empresa antes de utilizar IA para seleccionar personal
Incorporar inteligencia artificial a Recursos Humanos no debería consistir únicamente en comparar funcionalidades, precios o capacidad para procesar currículums.
Antes de implantar una herramienta conviene revisar:
- Qué datos personales va a utilizar.
- Con qué finalidad serán tratados.
- Qué criterios emplea para analizar o puntuar candidatos.
- Qué riesgos puede generar para las personas.
- Cómo se informará a candidatos y trabajadores.
- Qué peso tendrá la puntuación de la IA en la decisión.
- Si existe una intervención humana real.
- Si resulta necesaria una evaluación de impacto en protección de datos.
La IA puede ayudar a gestionar grandes volúmenes de candidaturas y facilitar el trabajo de los equipos de selección. Pero cuanto mayor sea su capacidad para condicionar quién avanza y quién queda fuera, mayor debe ser también el control sobre cómo funciona y cómo se utilizan sus resultados.
La tecnología puede apoyar una decisión. Convertirla en una caja negra que decida quién merece una oportunidad laboral plantea un escenario muy diferente.
