• APA-Catenon

Mejorando la IA para reducir el sesgo inconsciente en el reclutamiento.

Por Cynthia Soto (Catenon). Madrid, abril 2022.


Las técnicas de inteligencia artificial (IA), como el aprendizaje automático, el análisis de sentimientos y el procesamiento del lenguaje natural, se utilizan en el proceso de reclutamiento para optimizar y automatizar componentes del proceso. Investigaciones anteriores han demostrado que el sesgo inconsciente en la contratación y el reclutamiento puede producirse en varias áreas. La búsqueda de candidatos, la selección y la divulgación son los procesos de contratación más frecuentes para los que se está usando la IA para optimizar y automatizar.


El creciente uso de la IA en áreas sensibles, como el reclutamiento, ha suscitado un debate sobre la parcialidad y la equidad. Hace tiempo que se sabe que los sistemas basados en la IA son propensos a los prejuicios de sus creadores: sin saberlo, incorporamos prejuicios a los sistemas al entrenarlos con datos sesgados o al utilizar criterios establecidos por expertos con prejuicios implícitos. Para resolver este problema, los modelos de IA y los algoritmos de puntuación deben construirse de forma que no tengan en cuenta nada que no esté relacionado con el trabajo, y luego evaluarse para garantizar que los modelos sean predictivos, justos y no produzcan resultados falsos.


La IA tiene el potencial de ayudar a los humanos a tomar decisiones más inclusivas en el reclutamiento, pero sólo si se trabaja con diligencia para garantizar que los sistemas de IA también sean justos.



Por qué la IA necesita mejorar

Según un artículo de Mckinsey & Company, los datos subyacentes, más que el propio algoritmo, suelen ser la principal fuente de la IA sesgada. La IA es la simulación de los procesos humanos por parte de las máquinas. La IA aprende completamente de los humanos, lo que significa que es el conjunto de datos sesgados utilizado para entrenar el algoritmo lo que debe cambiar. La fuente más profunda de sesgo en la IA es el comportamiento humano que está imitando.


En una entrevista con Forbes, Mike Hurdy, director científico de Modern Hire, afirma que el sesgo en la IA proviene principalmente de los datos que se utilizan para entrenar los modelos. El uso de datos que son convenientes y fácilmente disponibles en lugar de datos que son altamente relevantes para el trabajo es a menudo donde comienza el sesgo. Por ejemplo, muchos modelos se basan en datos de currículums o solicitudes de empleo. Estos datos se basan en la experiencia, que tiende a ser intrínsecamente sesgada y, según la investigación, no es un gran predictor del éxito final.


Reducir el sesgo en RRHH con IA

Para llegar a la raíz del problema, primero debemos mejorar la IA y luego aplicar estas mejoras en el proceso de reclutamiento.


Mejorar la IA

Durante su entrevista con Forbes, Mike Hurdy también afirma que ayudar a garantizar que los candidatos sean revisados en función del contenido de su respuesta y no de otros criterios no relevantes para el puesto de trabajo comienza con la forma en que se configura la tecnología. Es esencial asegurarse de que los modelos de IA y los algoritmos de puntuación se crean sin tener en cuenta nada que no sea relevante para el trabajo, y luego se validan para garantizar que los modelos son predictivos, justos y no crean un impacto adverso. Pero, al igual que otras herramientas en el proceso de reclutamiento, las herramientas de IA deben ser auditadas continuamente para garantizar que son precisas, justas y libres de prejuicios.


Para que la IA sea eficiente en el reclutamiento, también debemos asegurarnos de que las empresas están utilizando datos imparciales para entrenarla. Según un artículo de Eightfold.ai, la IA requiere una recopilación de datos más amplia que la que puede proporcionar una sola organización. Al buscar en conjuntos de datos masivos de una amplia gama de fuentes, la IA puede diferenciar más fácilmente el ruido del sesgo de la señal de las habilidades relevantes. Para mejorar el proceso de reclutamiento, las herramientas de IA deben centrarsetambién en lo que es importante para el éxito en un puesto determinado.


Además, Eightfold.ai afirma que el software de contratación con IA ha mejorado a medida que ha cambiado nuestra comprensión de los prejuicios. Hoy en día, la IA de vanguardia puede combatir más eficazmente el sesgo inconsciente con conjuntos de datos más amplios y un enfoque en las habilidades.



¿Cómo puede la IA reducir el sesgo inconsciente en el reclutamiento?

Según un artículo de Harvard Business Review, la IA es la más prometedora para eliminar el sesgo en el reclutamiento por dos razones principales:


1. La IA puede eliminar el sesgo humano inconsciente.

Muchas de las herramientas actuales de contratación con IA tienen problemas, pero pueden solucionarse. Lo positivo de la IA es que podemos programarla para que se ajuste a requisitos específicos. Una noción fundamental es que la IA debe ser construida de tal manera que pueda ser auditada y se elimine cualquier sesgo.


2. La IA puede evaluar todo el proceso de selección de candidatos, en lugar de obligar a los humanos, que disponen de poco tiempo, a aplicar procesos sesgados para reducir el proceso desde el principio.

Sólo podemos eliminar el sesgo utilizando un enfoque totalmente automatizado en la parte superior del embudo que reduzca la canalización inicial a la capacidad del reclutador manual.





El futuro de la IA para reducir el sesgo en RRHH

Es imposible corregir los prejuicios humanos, pero está demostrado que es posible identificar y corregir los prejuicios en la IA. Si tomamos medidas críticas para abordar las preocupaciones que se plantean, podemos aprovechar realmente la tecnología para diversificar el lugar de trabajo.


El control humano sigue siendo necesario para garantizar que la IA no replique o introduzca nuevos sesgos en función de los datos que proporcionamos. Si la IA descubre un sesgo en su proceso de reclutamiento, ahora tiene la oportunidad de corregirlo. Podemos utilizar nuestro juicio y conocimientos humanos, ayudados por la IA, para determinar cómo corregir cualquier sesgo y mejorar los procedimientos de reclutamiento.


Así pues, aunque la tecnología puede detectar el problema, sigue correspondiendo a los responsables de la contratación idear soluciones para superar los sesgos que puedan estar restringiendo la diversidad en el lugar de trabajo.



Este artículo fue publicado originalmente en el blog de Catenon en abril de 2022. Su autora es Cinthya Soto. Haga click aquí para acceder al artículo original.