Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
La IA en contrataciones no elimina sesgos, puede crearlos
La incorporación de inteligencia artificial (IA) a los procesos de selección de personal no garantiza la eliminación de los sesgos en las contrataciones. Estas herramientas, aunque evalúan grandes volúmenes de información, pueden reproducir prejuicios históricos e incluso generar nuevas formas de discriminación, según advierte ManpowerGroup.
Claves de la nota
- Algoritmos de IA aprenden de datos y criterios establecidos previamente por personas.
- ManpowerGroup advierte sobre la reproducción de prejuicios históricos y nuevas discriminaciones.
- La OIT identifica objetivos, datos y programación como aspectos clave para evaluar herramientas de IA.
El principal riesgo radica en que los algoritmos no toman decisiones desde cero, sino que aprenden de datos, patrones y criterios establecidos previamente por personas. Si una empresa ha mantenido prácticas de contratación que favorecen determinados perfiles, la tecnología podría interpretar esas decisiones como indicadores de éxito y perpetuarlas.
Cómo los algoritmos perpetúan prejuicios
Los algoritmos de inteligencia artificial aprenden de datos, patrones y criterios establecidos previamente por personas, lo que significa que pueden reproducir prejuicios históricos. Si una empresa ha favorecido ciertos perfiles en el pasado, la IA podría interpretar esas decisiones como exitosas y perpetuar dichas prácticas de contratación.
La Organización Internacional del Trabajo (OIT), en su investigación La inteligencia artificial en la gestión de recursos humanos: los límites del empirismo, identifica tres aspectos fundamentales para evaluar estas herramientas: sus objetivos, los datos que utilizan y la forma en que están programadas. Cualquier deficiencia en estos componentes puede amplificar las desigualdades existentes.
“Automatizar una decisión no significa necesariamente eliminar el sesgo: en determinados casos, puede simplemente trasladarlo a otra parte del proceso”
El análisis de ManpowerGroup señala que la tecnología también puede reproducir diferencias relacionadas con la edad, el género, la procedencia educativa o el nivel socioeconómico.
Variables aparentemente neutrales y objetivos empresariales
El problema no se limita a los datos históricos, ya que algunas variables aparentemente neutrales pueden estar indirectamente relacionadas con características personales y sociales. Cuando los sistemas de IA utilizan el lugar de residencia, la universidad de procedencia o la trayectoria laboral para clasificar candidatos, pueden terminar excluyendo perfiles que no responden a los patrones tradicionales de contratación.
Además, la IA puede introducir sesgos derivados de los propios objetivos que las empresas establecen para sus sistemas. Por ejemplo, una herramienta diseñada para identificar candidatos con mayor probabilidad de permanecer durante años en una compañía podría privilegiar perfiles similares a los de empleados que históricamente tuvieron mayor permanencia, aunque esto no represente mayor capacidad o potencial profesional.
“No alcanza con revisar una herramienta cuando se incorpora. También es necesario monitorear qué ocurre cuando comienza a utilizarse en situaciones reales”
ManpowerGroup plantea la necesidad de mantener una supervisión continua de las herramientas de IA.
El desafío para Recursos Humanos
El desafío para Recursos Humanos no consiste únicamente en adoptar tecnología para agilizar la selección, sino en establecer controles que permitan identificar resultados discriminatorios. Es crucial revisar los criterios de evaluación y garantizar que la decisión final no dependa exclusivamente de un algoritmo, asegurando así procesos de contratación más justos y equitativos.
