La inteligencia artificial puede ayudar a tomar decisiones más consistentes en los procesos de selección, pero no garantiza por sí sola mayor objetividad. El desafío para las organizaciones es combinar tecnología, auditoría y criterio humano.
Durante años, uno de los argumentos a favor de incorporar inteligencia artificial (IA) a los procesos de Recursos Humanos fue que podía ayudar a reducir los sesgos humanos. Y es que cuando una persona gestiona la selección de candidatos puede verse influida –consciente o inconscientemente– por aspectos como la edad, el género, la universidad de procedencia, el lugar donde vive o incluso por una primera impresión. Un algoritmo, en cambio, podría evaluar grandes volúmenes de información aplicando los mismos criterios a todos.
Ahora, ¿esto es cierto? Aun hay debate sobre si la IA está libre de sesgos o si reproduce los mismos con los que fue creada o incluso entrenada. Y es que la IA no empieza de cero. Aprende de información, decisiones y objetivos definidos por personas. Por eso, automatizar una decisión no significa necesariamente eliminar el sesgo: en determinados casos, puede simplemente trasladarlo a otra parte del proceso.
La Organización Internacional del Trabajo (OIT) analiza precisamente este desafío en su investigación La inteligencia artificial en la gestión de recursos humanos: los límites del empirismo. Esta identifica tres elementos que deberían evaluarse en cualquier herramienta de IA aplicada a RR.HH.: cuál es su objetivo, de qué datos se alimenta y cómo está programada. Cuando alguno de estos componentes presenta problemas, la automatización puede amplificarlos en lugar de resolverlos.
Del pasado al futuro
Uno de los principales riesgos de sostener sesgos aparece cuando una organización utiliza sus propias decisiones históricas como referencia para entrenar un sistema.
Imaginemos una empresa que durante años contrató principalmente hombres para determinados puestos tecnológicos. Si una herramienta aprende a partir de esos historiales para identificar qué características tienen los candidatos que “funcionaron” en el pasado, y así interpretar esa distribución como una señal de éxito profesional.
Este tipo de situación ya fue documentado en el debate sobre IA aplicada a selección. Por ejemplo, la Comisión para la Igualdad de Oportunidades en el Empleo de los Estados Unidos ya advirtió que los sistemas utilizados para reclutar, filtrar o seleccionar candidatos pueden generar impactos adversos sobre determinados grupos, y señala específicamente la necesidad de evaluar cómo funcionan estas herramientas.
El problema también puede aparecer cuando el sistema utiliza variables que, a primera vista, parecen neutrales. Por ejemplo, un dato como el lugar de residencia, la institución educativa a la que asistió una persona o su trayectoria laboral puede estar indirectamente relacionado con características como su género, edad o nivel socioeconómico. Si la IA utiliza esos datos para tomar decisiones, puede terminar reproduciendo diferencias o desigualdades que no fueron consideradas de manera explícita.
¿Aparecen sesgos nuevos?
El debate no debería limitarse a preguntar si la IA reproduce los prejuicios humanos. También hay que analizar qué sesgos pueden surgir a partir del propio diseño de la herramienta.
Por ejemplo, si una empresa le pide a una herramienta que identifique a los candidatos con mayor probabilidad de permanecer muchos años en la organización, el sistema podría buscar patrones asociados con quienes históricamente tuvieron mayor permanencia. Pero esa variable no necesariamente coincide con el potencial, las capacidades o el desempeño futuro de una persona.
Esto genera un nuevo desafío para las áreas de Recursos Humanos: no alcanza con revisar una herramienta cuando se incorpora. También es necesario monitorear qué ocurre cuando comienza a utilizarse en situaciones reales. La propia naturaleza de los sistemas que aprenden de datos hace que la supervisión sea una tarea continua.
