No sorprende aquí: ChatGPT Todavía no es una alternativa confiable para los reclutadores y reclutadores.
En un estudio publicado recientemente por la Universidad de Washington, Intelligent Amnistía Internacional El chatbot clasificó repetidamente las solicitudes que incluían honores y credenciales relacionados con la discapacidad por debajo de aquellas que tenían beneficios similares pero no mencionaban las discapacidades. El estudio probó varias palabras clave diferentes, incluidas sordera, ceguera, parálisis cerebral, autismo y el término general “discapacidad”.
Los investigadores utilizaron uno de los CV del autor disponibles públicamente como punto de referencia, luego crearon versiones mejoradas del CV con premios y honores que incluían diversas discapacidades, como el Premio Tom Wilson al Liderazgo en Discapacidad o un puesto en un comité DEI. Luego, los investigadores pidieron a ChatGPT que clasificara a los solicitantes.
En 60 ensayos, el CV original ocupó el primer lugar el 75% de las veces.
Velocidad de la luz triturable
“La reanudación de la clasificación mediante IA está empezando a tener éxito, pero no hay mucha investigación sobre si es segura y eficaz”, afirmó Kate Glazko, estudiante de posgrado en ciencias de la computación e ingeniería y autora principal del estudio. “Para quienes buscan empleo con discapacidades, siempre existe la pregunta cuando envían su currículum sobre si deben incluir credenciales de discapacidad. Creo que las personas con discapacidades lo consideran incluso cuando los revisores son humanos”.
ChatGPT también puede “alucinar” al pensar en por qué ciertas enfermedades físicas y mentales podrían obstaculizar la capacidad de un candidato para realizar el trabajo, dijeron los investigadores.
“Algunas descripciones de GPT pueden colorear todo el currículum de una persona en función de su discapacidad y afirmar que la participación con DEI o la discapacidad probablemente reste valor a otras partes del currículum”, escribió Glazko.
Pero los investigadores también descubrieron que algunas características preocupantes del capacitismo podrían mitigarse dirigiendo los ChatGPT a la incapacidad, utilizando la función de editor de los GPT para alimentar la justicia de discapacidad y los principios DEI. A continuación, el CV mejorado supera a la versión original en más de la mitad de los casos, pero los resultados aún varían según el tipo de discapacidad incluida en el CV.
El chatbot de OpenAI ha mostrado sesgos similares en el pasado. Y en marzo un Bloomberg La investigación mostró que se ofrecía el modelo GPT 3.5 de la empresa. Preferencias raciales claras Para los candidatos a un puesto de trabajo, no sólo replicará prácticas de contratación discriminatorias conocidas, sino también estereotipos de raza y género. En respuesta, OpenAI dijo que estas pruebas no reflejan los usos prácticos de sus modelos de IA en el lugar de trabajo.