Una nueva ley, que es la primera en su tipo a nivel mundial, entró en vigencia hace pocos días en la Ciudad de Nueva York. La normativa exige que la utilización de un software que se base en inteligencia artificial para elegir candidatos o descartar a los que no se ajusten al perfil (llamada herramienta de decisión automática de empleo o AEDT) debe pasar una auditoría por parte de una empresa externa para mostrar que está libre de prejuicios racistas o sexistas.
Las empresas utilizan cada vez más herramientas automatizadas en sus procesos de contratación. Cathy O’Neil, directora ejecutiva de Orcaa, una consultora que ha estado realizando auditorías de herramientas de contratación para empresas que quieren estar al día con la nueva ley de Nueva York, dijo que este aumento de uso automático a los candidatos se ha vuelto necesario, porque las personas que buscan empleo, también las utilizan para enviar un gran número de postulaciones.
“En la era de Internet, es mucho más fácil solicitar un trabajo. Y existen herramientas para que los candidatos agilicen ese proceso. Como ‘danos tu currículum y postularemos a 400 empleos'”, dijo O’Neil. “Se reciben demasiadas solicitudes. Tienen que seleccionar la lista de alguna manera, por lo que estos algoritmos lo hacen por ellos”.
Los programas de contratación elaborados con IA han sido objeto de escrutinio, especialmente sobre si terminan mostrando sesgos en función de los datos en los que están elaborados. Los estudios han encontrado durante mucho tiempo que los programas que utilizan el aprendizaje automático o la inteligencia artificial a menudo exhiben racismo, sexismo y otros sesgos.
A medida que las aplicaciones como ChatGPT y Midjourney han ganado popularidad, los legisladores federales e incluso muchos ejecutivos de empresas tecnológicas han pedido repetidamente una regulación. Los expertos dicen que si bien la ley de Nueva York es importante para los trabajadores, todavía es muy limitada.
Julia Stoyanovich, profesora de informática en la Universidad de Nueva York y miembro fundador del Grupo de Trabajo de Sistemas de Decisiones Automáticas de la ciudad, dijo que es un comienzo importante, pero aún muy limitado.
“En primer lugar, estoy muy contenta de que la ley esté vigente, que ahora hay reglas y vamos a comenzar a hacerlas cumplir”, dijo Stoyanovich.
Sin embargo, una de las críticas de esta legislación es que no incluyó la discriminación laboral por edad ni cómo se va a fiscalizar. El Departamento de Protección al Consumidor y al Trabajador de Nueva York, encargado de hacer cumplir la ley, “recopilará e investigará las quejas” de las empresas acusadas de violarla, dijo un portavoz de la agencia.
“No creo que estén mejorando el sistema general, ya sea para candidatos o gerentes de reclutamiento” dijo O’Neil de Orcaa. “Es solo una sobrecarga de información y no hay muchas razones para confiar en estas herramientas para mejorar las cosas”.
Stoyanovich fue más allá y dijo que algunas herramientas de contratación automatizadas que ha estudiado simplemente no funcionan.
“Una de las cosas contra las que esta ley no nos protege son estos métodos de detección sin sentido. Puedo contarte sobre algunos de los que he auditado, junto con un equipo de colaboradores, donde es completamente absurdo. Así que no va a estar sesgado, porque es solo aleatorio, por lo que puedo decir. Así que será igualmente absurdo para hombres y mujeres, negros y blancos”, dijo Stoyanovich.
Vea nota original en NBCN News
*Imagen de katemangostar en Freepik
