Sesgos en IA: algoritmos más prejuiciosos que humanos en selección

El problema invisible de los sesgos en sistemas de IA para contratación

La automatización de procesos de selección de personal mediante inteligencia artificial se ha normalizado en muchos sectores, incluyendo industrias manufactureras y plantas que buscan optimizar tiempos de reclutamiento. Sin embargo, investigaciones recientes del MIT Technology Review exponen una realidad incómoda: los modelos de lenguaje grandes (LLMs) utilizados para evaluar currículos no solo reproducen prejuicios existentes en sus datos de entrenamiento, sino que generan nuevas formas de discriminación durante el proceso de toma de decisiones. Este fenómeno representa un riesgo significativo para la equidad laboral en contextos donde cientos o miles de candidatos son filtrados automáticamente antes de cualquier contacto humano.

Cómo los LLMs heredan y amplifican sesgos

Los modelos de lenguaje aprenden patrones del vasto corpus de texto con el que son entrenados. Si ese texto contiene representaciones desproporcionadas de ciertos grupos demográficos en roles específicos, o lenguaje que asocia características personales con capacidades laborales, el modelo internaliza esas conexiones. Por ejemplo, si el texto de entrenamiento refleja históricamente una menor representación de mujeres en roles técnicos o de liderazgo, el modelo puede penalizar inadecuadamente a candidatas por género, experiencia en carreras STEM o patrones de empleo. Lo preocupante es que estos sesgos no siempre son obvios: pueden emerger de formas sutiles y contextuales que ni los desarrolladores ni los usuarios finales detectan fácilmente.

Generación autónoma de nuevos prejuicios

Más allá de heredar sesgos históricos, la investigación sugiere que los LLMs pueden crear nuevos prejuicios durante la ejecución del proceso de evaluación. Esto ocurre porque los modelos hacen inferencias probabilísticas basadas en patrones, y cuando se les pide que evalúen o rankeen candidatos, pueden desarrollar asociaciones espurias que no existían explícitamente en los datos originales. Por ejemplo, el sistema podría aprender a relacionar interrupciones en la trayectoria laboral con menor capacidad técnica, o a favorecer ciertos estilos de escritura o expresión que naturalmente correlacionan con grupos demográficos específicos. Estas decisiones emergentes son determinísticas pero impredecibles, lo que dificulta su auditoría y corrección.

Comparación con decisiones humanas

Los hallazgos del MIT revelan una comparación inquietante: en varios escenarios de prueba, los sistemas de IA demostraron mayores tasas de discriminación que evaluadores humanos entrenados. Aunque los humanos también cargan prejuicios inconscientes, típicamente poseen ciertos mecanismos de autorregulación, empatía contextual y capacidad para reconocer excepciones a estereotipos. Los LLMs, por el contrario, aplican patrones de manera consistente sin esa flexibilidad moral o social. Un evaluador humano podría notar que un candidato con una brecha en su CV tiene una explicación legítima (cuidado familiar, enfermedad, educación continua); un LLM tiende a penalizar la brecha de forma ciega. Esta diferencia es crucial en contextos industriales latinoamericanos, donde muchos candidatos valiosos pueden tener trayectorias no convencionales debido a realidades económicas y sociales locales.

Implicaciones para la industria manufacturera y plantas en Latinoamérica

En contextos como México, Brasil, Colombia y Argentina, donde el sector manufacturero y la industria pesada son motores económicos importantes, la implementación de sistemas de screening basados en IA puede reproducir y amplificar desigualdades históricas. Empresas que buscan automatizar la selección inicial de candidatos para roles en operación de PLC, mantenimiento, automatización industrial o supervisión técnica deben ser conscientes de que un sistema “neutral” podría, inadvertidamente, filtrar candidatos competentes basándose en criterios sesgados. Por ejemplo, un modelo podría penalizar currículos de personas procedentes de regiones económicamente menos desarrolladas, o favorecer ingenuamente a candidatos con certificaciones internacionales aunque existan equivalentes válidos locales. Esto no solo viola principios de equidad, sino que limita el pool de talento disponible.

Recomendaciones y vigilancia futura

Organizaciones que consideran implementar LLMs para evaluación de candidatos deben establecer auditorías rigurosas de sesgo, incluyendo pruebas con currículos sintéticos que varían demográficamente en características no relacionadas con competencia laboral. Siemens, Schneider Electric y otros proveedores de soluciones industriales que ofrecen plataformas de RR.HH. integradas deberían transparentar cómo sus sistemas de IA han sido probados contra sesgos. Además, es recomendable mantener un componente humano significativo en decisiones de contratación, especialmente en fases de selección inicial, para garantizar que el juicio contextual y la comprensión de realidades locales no se pierdan. La regulación emergente en torno a IA en la UE (Artificial Intelligence Act) y consideraciones similares en América Latina indicarán que el uso discriminatorio de sistemas de IA podría acarrear consecuencias legales. Por tanto, invertir en auditería y corrección de sesgos no es solo una cuestión ética, sino también de mitigación de riesgos corporativos.