Los riesgos vinculados con la aplicación de la IA en los procesos de selección y contratación de personal

Personas esperando a su entrevista de selección de personal.

Serie: 'Práctica y Estrategia Legal (III)

En la era de la revolución digital, caracterizada por el avance exponencial de las nuevas tecnologías, la IA está transformando una multitud de actividades en las que el ser humano participa activamente. Se ha convertido en una herramienta esencial para gestionar y analizar una gran cantidad de datos, generando un cambio profundo en campos como la administración de justicia, medicina, periodismo, entre otros.

En particular, la IA se ha convertido en un recurso fundamental en los procesos de selección y contratación de personal, facilitando la identificación del mejor talento para cubrir la vacante en una empresa. Esta herramienta demuestra ser poderosa al contribuir tanto en la automatización de procesos como en la toma de decisiones.

La aplicación de la IA en estos procesos puede generar resultados más objetivos en comparación con los de un ser humano. Sin embargo, es importante recordar que quien define las pautas para el funcionamiento correcto de esta herramienta es el propio ser humano. Por esta razón, persiste el debate en torno a los riesgos de posibles vulneraciones de datos personales y sesgos discriminatorios que podrían amenazar los derechos fundamentales de los candidatos.

IA y protección de los datos personales

Uno de los grandes desafíos en la aplicación de la IA en los procesos de selección y contratación de personal es la protección de datos personales. Para que la IA sea autónoma y predictiva, es necesario incorporar una gran cantidad de datos personales, lo cual resalta la importancia de respetar los derechos de privacidad. Merino (2022) advierte sobre los peligros de utilizar algoritmos creados con una finalidad específica y que estos sean aplicados en contextos diferentes a los inicialmente previstos, representando una amenaza.

Las nuevas tecnologías facilitan la recopilación y digitalización de documentos y datos personales a través de diversas plataformas, permitiendo la automatización de procesos. Un ejemplo claro de la IA en los procesos de selección y contratación de personal es en los CVs recibidos, pero a la vez se convierte en un riesgo la protección de estos datos, en vista que no siempre se tiene conocimiento preciso de los datos que son facilitados al algoritmo.

La Unión Europea lidera la protección de datos personales con el Reglamento General de Protección de Datos Personales (RGPD), que define la información personal y establece derechos y libertades esenciales para los individuos. Esta normativa protege no solo los datos personales, sino cualquier dato que identifique a una persona, brindando seguridad en un contexto donde la información se utiliza para crear perfiles en áreas sensibles como ideología, raza, sexo, religión u opinión particular.

La creación de perfiles automatizados puede dar lugar a discriminación y segregación, lo que llevó al RGPD limitar el uso de la IA en decisiones automatizadas. El artículo 22.1 del RGPD prohíbe decisiones basadas exclusivamente en procesamiento automatizado, excepto cuando son necesarias para la celebración o ejecución de un contrato, y siempre bajo estrictas garantías de protección.

El Tribunal Supremo en su sentencia 160/2021 de 9 de febrero de 2021, destaca que la privacidad de datos personales va más allá de la mera intimidad, abarcando cualquier tipo de información personal, incluso si no es considerada íntima. Los sistemas de IA requieren grandes cantidades de datos, pero el tratamiento de esta información conlleva riesgos de seguridad y privacidad.

El Reglamento Europeo 2024/1689 sobre Inteligencia Artificial prohíbe prácticas que exploten vulnerabilidades individuales o grupales relacionadas con la edad, discapacidad o situación social o económica en la puesta de servicio o utilización de sistemas IA. Además, prohíbe la categorización biométrica de personas según características personales o comportamiento social, protegiendo así la privacidad y los derechos fundamentales.

IA y riesgos vinculados a la discriminación

Otro de los riesgos que se plantea es la prohibición de la discriminación establecida en la Constitución Española. En su artículo 14, se consagran los principios de igualdad y no discriminación: el principio de igualdad asegura un trato igualitario para todas las personas, mientras que el principio de no discriminación protege especialmente a grupos que han sido históricamente discriminados por raza, sexo, religión y otras condiciones personales. Estos principios se alinean a tratados internacionales que también reconocen la igualdad de derecho y el acceso equitativo a oportunidades.

Representación de la selección realizada por la IA.

España se adhiere a la Declaración Universal de Derechos Humanos, así como a los Pactos Internacionales de Derechos Civiles y Políticos y Económicos, Sociales y Culturales, comprometiéndose en favor de la igualdad. En el ámbito europeo, la Carta de los Derechos Fundamentales y el Convenio Europeo de Derechos Humanos refuerzan la protección contra la discriminación. Estas normativas exigen que los Estados miembros implementen medidas efectivas para evitar cualquier forma de discriminación.

Además de las normativas internacionales, el Convenio 111 de la Organización Internacional del Trabajo (OIT) se centra en la eliminación de la discriminación en el empleo, promoviendo la igualdad en el entorno laboral. Actualmente, la regulación europea incluye el Reglamento (UE) 2024/1689, que clasifica a los sistemas de IA en los procesos de selección y contratación de personal como de alto riesgo. Esta normativa exige que dichos sistemas se sometan a pruebas para determinar las medidas de gestión de riesgos más convenientes y concretas, dada la posibilidad de que reproduzcan patrones históricos de discriminación.

En el ámbito laboral español, el artículo 4.2 del Estatuto de los Trabajadores garantiza el derecho a no ser discriminado, mientras que la Ley 15/2022 promueve la igualdad de trato en el acceso y desarrollo en el empleo. Esta Ley prohíbe cualquier limitación en las oportunidades de los candidatos en los criterios de selección, fomentando la igualdad desde el inicio de un proceso de contratación y extendiendo la protección a todas sus fases.

La protección contra la discriminación cuenta está respaldada por el Tribunal Constitucional, que en su sentencia 173/1994, de 7 de junio, estableció que esta puede ocurrir incluso antes de la formalización de un contrato laboral. Del mismo modo, el Tribunal Supremo, en su sentencia 772/2022, de 16 de junio, sostiene que la discriminación por razón de sexo puede manifestarse en las etapas previas a la contratación. En consecuencia, ambos tribunales destacan la importancia de supervisar los sistemas algorítmicos para evitar que reproduzcan sesgos discriminatorios en la selección de candidatos.

Conclusiones

Podemos concluir que la aplicación de la IA es incuestionable, ya que su aplicación se extiende a diversos ámbitos y facilita numerosas actividades cotidianas. Su capacidad para gestionar grandes volúmenes de datos ha transformado la vida diaria, pero también plantea riesgos. En el ámbito empresarial, la IA optimiza la selección y contratación de personal al agilizar y mejorar la precisión en la elección de candidatos. Sin embargo, es fundamental mantener un equilibrio, ya que no todas las etapas del proceso pueden ser automatizas sin perder la necesaria intervención humana.

El uso de IA en los procesos de selección y contratación de personal plantea desafíos en materia de privacidad y discriminación. Existe el riesgo de vulnerar el derecho a la protección de datos personales y de perpetuar sesgos discriminatorios, a pesar de la amplia legislación que protege a los trabajadores. Por ello, es esencial mantenerse actualizados en nuevas tecnologías y garantizar que el avance tecnológico se alinee con los principios consagradas en la legislación vigente.

Nota: esta entrada de blog se ha redactado a partir del TFM “Aplicación de la IA en la selección y contratación de personal”, defendido en el curso 23/24.