Fuera de la vista: los algoritmos que gobiernan nuestras vidas. Más empresas de contratación están utilizando la tecnología de IA para revisar las solicitudes. Pero, ¿comete errores y puede aumentar sus posibilidades?

por Hilke Schellmann

Reclutador Robótico

Martin Burch había estado trabajando para el Wall Street Journal y su empresa matriz Dow Jones durante algunos años y estaba buscando nuevas oportunidades. Un domingo de mayo de 2021, solicitó un puesto de analista de datos en Bloomberg en Londres que parecía perfecto. Recibió una respuesta inmediata, pidiéndole que tomara una evaluación digital.

Fue extraño. La evaluación le mostró diferentes formas y le pidió que descifrara el patrón. Empezó a sentirse incrédulo. “¿No deberíamos estar probando mis habilidades en el trabajo?  se preguntó a sí mismo.

Al día siguiente, un lunes, que resultó ser un día festivo en el Reino Unido, recibió un correo electrónico de rechazo. Decidió enviar un correo electrónico a un reclutador de Bloomberg. ¿Quizás la empresa cometió un error?

Lo que descubrió Burch ofrece información sobre un fenómeno más amplio que desconcierta a los expertos: si bien hay vacantes de trabajo de nivel récord tanto en el Reino Unido como en los EE.UU. como el desarrollo de software, mientras que muchas empresas se quejan de que no pueden encontrar el talento adecuado?

Algunos expertos argumentan que los algoritmos y la inteligencia artificial que ahora se usan ampliamente en la contratación están jugando un papel. Este es un gran cambio, porque hasta hace relativamente poco tiempo, la mayoría de los gerentes de contratación manejaban las solicitudes y los currículums por sí mismos. Sin embargo, hallazgos recientes han demostrado que algunas de estas nuevas herramientas discriminan a las mujeres y utilizan criterios no relacionados con el trabajo para “predecir” el éxito laboral.

Si bien las empresas y los proveedores no están obligados a revelar si utilizan inteligencia artificial o algoritmos para seleccionar y contratar a los solicitantes de empleo, en mis informes he aprendido que esto está muy extendido. Todas las principales plataformas de empleo, incluidas LinkedIn, ZipRecruiter, Indeed, CareerBuilder y Monster, me han dicho que implementan algunas de estas tecnologías.

Ian Siegel, el CEO de ZipRecruiter, dijo que la inteligencia artificial y los algoritmos ya conquistaron el campo. Estima que al menos las tres cuartas partes de todos los currículos presentados para trabajos en los EE. UU. son leídos por algoritmos. “El amanecer del reclutamiento de robots ha llegado y se ha ido y la gente simplemente no se ha dado cuenta todavía”, dijo.

Una encuesta de 2021 de ejecutivos de reclutamiento realizada por la firma de investigación y consultoría Gartner encontró que casi todos informaron usar IA para al menos una parte del proceso de reclutamiento y contratación.

Sin embargo, no es infalible. Uno de los hallazgos más importantes proviene del profesor de la Escuela de Negocios de Harvard, Joe Fuller, cuyo equipo encuestó a más de 2250 líderes empresariales en los EE. UU., el Reino Unido y Alemania. Sus motivos para utilizar herramientas algorítmicas fueron la eficiencia y el ahorro de costes. Sin embargo, el 88% de los ejecutivos dijeron que saben que sus herramientas rechazan a candidatos calificados.

A pesar de la prevalencia de la tecnología, solo ha habido algunos casos famosos de fallos de encendido. Hace unos años, Amazon descubrió que su herramienta de selección de currículums estaba sesgada contra las mujeres. El algoritmo se entrenó en los currículums de los empleados actuales, que eran hombres, lo que refleja una disparidad de género en muchos campos tecnológicos. Con el tiempo, la herramienta recogió las preferencias masculinas y degradó sistemáticamente a las personas con la palabra “mujeres” en sus currículums, como en “club de ajedrez femenino” o “equipo de fútbol femenino”. Los ingenieros de Amazon intentaron solucionar el problema, pero no pudieron y la empresa descontinuó la herramienta en 2018.

“Este proyecto solo se exploró a modo de prueba y siempre se usó con supervisión humana”, dijo Brad Glasser, portavoz de Amazon.

Los proveedores de IA que crean este tipo de tecnologías dicen que las herramientas basadas en algoritmos democratizan el proceso de contratación al brindarles a todos una oportunidad justa. Si una empresa se está ahogando en solicitudes, muchos reclutadores humanos solo leen una fracción de las solicitudes. Una IA analiza todos ellos y cualquier evaluación y juzga a todos los candidatos de la misma manera.

Robot de dibujos animados sentado en fila con los solicitantes de una entrevista de trabajo
Los partidarios dicen que las herramientas basadas en algoritmos democratizan el proceso de contratación al brindarles a todos una oportunidad justa. Fotografía: Ivan Chiosea/Alamy

Otro beneficio, dicen estos proveedores, es que si los empleadores eligen centrarse en las habilidades y no en los logros educativos, como títulos universitarios, los solicitantes de diversos orígenes que a menudo se pasan por alto pueden pasar a la siguiente etapa del proceso.

“Al final del día, no queremos que las personas sean contratadas en roles que las agotarán y no utilizarán sus fortalezas. Así que no se trata realmente de rechazar a las personas, se trata de ‘seleccionar’ a las personas adecuadas”, dijo Caitlin MacGregor, directora ejecutiva de Plum, que construyó la evaluación que Burch encontró tan desconcertante. MacGregor dijo que los clientes de la compañía han aumentado su diversidad y tasas de retención desde que comenzaron a usar Plum. Ella dijo que las evaluaciones ayudaron a afinar el “potencial” de los solicitantes.

Pero a los candidatos que tienen la experiencia necesaria les preocupa que los eliminen injustamente cuando las empresas se enfocan en factores evasivos como el potencial o los rasgos de personalidad.

“Esta fue la primera vez en mi vida, en mi carrera, que envié hojas de vida y no había nada”, dijo Javier Álvarez, de 57 años, gerente de distribución y ventas de Monrovia, California, quien envió su hoja de vida a más de 300 veces en sitios como LinkedIn e Indeed para trabajos para los que dijo que estaba calificado. No se materializó ninguna oferta de trabajo, y comenzó a preguntarse si estaba siendo excluido automáticamente de alguna manera, tal vez debido a su edad o requisitos salariales. “Me sentí sin esperanza. Empecé a dudar de mis habilidades 

Ronnie Riley, un organizador de eventos de 29 años de Canadá, tuvo una brecha de varios años en su currículum debido a una enfermedad. Riley solicitó más de 100 trabajos de planificación de eventos y algunos de asistente administrativo en diciembre de 2021, y más de 70 trabajos en enero, pero terminó con un total de cinco entrevistas y sin ofertas de trabajo. Les preocupa que la brecha sea la razón. “Parece que está descartando a un montón de personas que podrían ser perfectas para el trabajo”, dijeron.

La investigación de Fuller ha ayudado a proporcionar respuestas sobre cómo se producen exactamente los rechazos automáticos. Descubrió que una de las razones es que, con demasiada frecuencia, las descripciones de puestos incluyen demasiados criterios y habilidades. Muchos empleadores agregan nuevas habilidades y criterios a las descripciones de puestos existentes, creando una larga lista de requisitos. Los algoritmos terminan rechazando a muchos solicitantes calificados a los que les pueden faltar solo un par de habilidades de la lista.

Un ejecutivo con el que habló Fuller dijo que la herramienta de su empresa ha estado rechazando candidatos calificados porque obtuvieron una puntuación baja en una categoría importante, incluso cuando obtuvieron una puntuación casi perfecta en todas las demás categorías importantes. La empresa descubrió que se quedó con los solicitantes de empleo que recibieron puntuaciones mediocres en todos los ámbitos. (Las descripciones de trabajo más largas también pueden disuadir a más candidatas, cree Fuller, ya que muchas mujeres solicitan trabajos solo cuando cumplen con la mayoría de los requisitos).

Otra razón por la cual los candidatos calificados son rechazados por los sistemas automatizados son los llamados criterios de eliminación. En la investigación de Fuller, descubrió que casi el 50 % de los ejecutivos encuestados reconocieron que sus sistemas automáticos rechazan directamente a los solicitantes de empleo que tienen una brecha laboral de más de seis meses en sus currículos. Estos solicitantes nunca se ponen frente a un gerente de contratación, incluso si son los candidatos más calificados para el trabajo.

“La brecha de seis meses es un filtro realmente insidioso”, dijo Fuller, ya que probablemente se basa en la suposición de que una brecha significa algo ominoso, pero puede representar simplemente despliegues militares, complicaciones del embarazo, obligaciones de cuidado o enfermedad.

Los expertos contactados por The Guardian también describieron que los evaluadores automáticos de currículums cometían errores similares al infame ejemplo de Amazon, arraigados en los sesgos de aprendizaje de un conjunto de datos existente. Esto sugiere cómo estos programas podrían terminar imponiendo los tipos de sesgos raciales y de género observados con otras herramientas de inteligencia artificial, como la tecnología de reconocimiento facial y los algoritmos utilizados en la atención médica.

John Scott es el director de operaciones de APMetrics, una organización que ayuda a las empresas a identificar talentos y, a menudo, las empresas más grandes lo contratan para verificar si las nuevas tecnologías que la empresa quiere comprar a un proveedor son justas y legales. Scott ha examinado varios filtros de currículums y herramientas de contratación y ha descubierto problemas en todos ellos. Encontró criterios sesgados no relacionados con el trabajo, como el nombre Thomas y la palabra clave iglesia, para “predecir” el éxito en un trabajo.

Mark Girouard, un abogado laboral en Minneapolis, descubrió que el nombre Jared y haber jugado lacrosse en la escuela secundaria se usaban como predictores de éxito en un sistema.

Martin Burch, el buscador de empleo de Londres, descubrió que lo habían eliminado de una manera diferente.

Se puso en contacto con un reclutador humano en Bloomberg y le pidió que mirara su CV. Su experiencia se alineaba con la descripción del trabajo y este era un competidor directo, lo que hacía que sus antecedentes fueran aún más valiosos, pensó Pero el problema resultó ser la prueba de personalidad y búsqueda de patrones que había tomado, que fue creada por Plum.

Un reclutador de Bloomberg respondió: “Puedo ver que su solicitud fue rechazada debido a que no cumplió con nuestro punto de referencia en la evaluación de Plum que completó. Desafortunadamente, sobre esa base, no podemos continuar con su solicitud”. Burch se sintió atónito de que efectivamente había sido rechazado por una pieza de código.

Contrató a un abogado y, en comunicaciones con Bloomberg, solicitó una revisión humana de su solicitud.

Bloomberg informó a Burch que el puesto que solicitó ya no estaba disponible y que no podría ser considerado para él.

Bloomberg no devolvió correos electrónicos ni llamadas solicitando comentarios.

A medida que se expande la adopción de herramientas de IA en la contratación, los legisladores comienzan a observar más de cerca. En el Reino Unido, el gobierno está planeando una nueva regulación de la toma de decisiones algorítmica. En los EE. UU., una ley local reciente requiere que los empleadores informen a los solicitantes de empleo cómo AI revisa sus materiales de solicitud cuando así lo solicitan. Y los legisladores del Congreso han presentado proyectos de ley que regularían la IA en la contratación a nivel nacional, incluida la Ley de responsabilidad algorítmica de 2022 , pero han enfrentado obstáculos para aprobarlos.

Burch decidió presentar un reclamo oficial ante la Oficina del Comisionado de Información, una organización independiente que respeta las leyes de privacidad en el Reino Unido. En febrero, la oficina reprendió a Bloomberg y escribió: “Después de revisar la información proporcionada, es nuestra decisión que hay más trabajo para que usted haga. Como tal, ahora esperamos que tome medidas para abordar cualquier problema pendiente con el individuo”.

Desde entonces, Burch ha aceptado £8,000 ($9,864) en compensación de la compañía. Él dice que también luchó para demostrar un punto:  Estoy tratando de demostrarles que probablemente esté descartando buenos candidatos, por lo que probablemente deberían dejar de usarlo”.Anuncio publicitario

La directora ejecutiva de Plum, Caitlin MacGregor, se negó a comentar directamente sobre el caso de Burch, citando preocupaciones de privacidad, pero respalda su producto: “No debería entrevistar a alguien de 35 años, independientemente de la experiencia que tenga. Hay otro lugar en el que van a ser su propia coincidencia del 95 [por ciento]”.

Cómo escribir un currículum en la era de la IA

  • En lugar de tratar de sobresalir, haga que su currículum sea legible por máquina: sin imágenes, sin caracteres especiales como ampersand o tildes. Utilice la plantilla más común. Use oraciones cortas y nítidas, declarativas y cuantitativas, dijo Ian Siegel, director ejecutivo de la plataforma de trabajo ZipRecruiter.
  • Enumere las licencias y certificaciones en su currículum
  • Asegúrese de que su currículum coincida con las palabras clave en la descripción del trabajo y compare su currículum con la descripción del trabajo utilizando escáneres de currículum en línea para ver si es apto para el puesto.
  • Para trabajos administrativos y de nivel de entrada, considere declarar que es competente en las aplicaciones de la suite ofimática de Microsoft, incluso si no está en la descripción del trabajo, dijo Joe Fuller, profesor de negocios de Harvard.

Fuente: https://www.theguardian.com/us-news/2022/may/11/artitifical-intelligence-job-applications-screen-robot-recruiters

Deja una respuesta