La inteligencia artificial avanza en el mundo laboral entre promesas de eficiencia y dudas sobre sesgos, transparencia y seguridad de los datos.
Al ingresar a la entrevista de trabajo con Zara, la Inteligencia Artificial de Micro 1, en la pantalla se ve un círculo rodeado por una estela azul y violeta que se mueve a la par con su voz. Estás a punto de ser evaluado en tus conocimientos sobre un tema, en tu capacidad para resolver conflictos y en tus habilidades “blandas”, como vocabulario, gramática o pensamiento crítico. Zara tiene una actitud complaciente o casi condescendiente: “¡Qué buena respuesta!”, “¡Claro! Es sumamente importante tener eso en cuenta”. A pesar de la naturalidad de su habla, es imposible olvidar que estamos hablando con una IA, como Siri, Alexa o cualquier otra voz de mujer que simula ser humana.
Al finalizar la entrevista, Zara hace su evaluación con una nota: Junior para nivel básico, B1 para nivel intermedio, B2 para nivel avanzado. Cada área de evaluación tiene su propia nota: conocimiento del tema, resolución de conflictos, pensamiento creativo, y muchas variables más que dependen de cada trabajo. Así nos vemos, expuestos a ser evaluados, casi frágiles al intentar comprender qué acabamos de atravesar: una IA nos evalúa, pero resulta que la misma evaluación sirve para entrenarla. Este tipo de proceso es el que pasan cada vez más personas para ser eventualmente contratado. O no, como veremos.
Juan Pablo Chiesa, abogado especialista en trabajo y políticas públicas de empleo, doctorado en IA Aplicada a la Gestión en la Justicia e Innovación Tecnológica, cuenta que en el mercado laboral hay una transformación sin precedentes, un cambio tan grande y profundo que no da tiempo a adaptarse: “Es una realidad que no va a desaparecer”, sentencia. La pregunta que empieza a suscitarse es la del lugar de la humanidad y de las personas en estos procesos de la ‘inteligencia-artificialización’ de todo”.
La automatización de los procesos de reclutamiento
Micro 1 es una empresa dedicada a reclutar personas para futuros proyectos de IA. Lo innovador acerca de esta empresa es la posibilidad de reclutar masivamente a través de entrevistas laborales que se realizan en su página web, bajo la premisa de que “cualquiera puede estar calificado para realizar un trabajo”, tal como aseguró una fuente que prefirió no dar su nombre, empleada de una empresa del rubro. Cualquiera puede realizar una entrevista ingresando a su página y seleccionando un área de interés. Ahí mismo se puede iniciar el “diálogo” con la IA de Recursos Humanos. Esa entrevista, si es que pasa los criterios establecidos por Micro 1, se envía a reclutadores para formar equipos de trabajo para proyectos de entrenamiento de IA.
Zara es la asistente virtual de Micro 1, que se especializa en realizar entrevistas de manera masiva y puede entrevistar hasta 10.000 candidatos en una hora. Juan Diego Arroyo, ingeniero de audio cuenta que él también fue entrevistado por Zara para diferentes empleos. Cuando se inició la entrevista, la IA le pidió información personal: número de documento, pasaporte, acceso a cámara y micrófono. Después informó que va a utilizar la grabación de la entrevista para su posterior uso por agentes de IA. Decía que esa información iba a ser almacenada o eliminada según quisiera Juan. En caso de no hacerlo la entrevista finalizaría. La sospecha de Arroyo era si esa entrevista era para un empleo real o si sólo estaba siendo utilizada para entrenar a la misma IA en cómo responden las personas: tono de voz, ritmo, tiempo para pensar las respuestas, creatividad, etc.
Milagros Miceli, socióloga y doctora en Ciencias de la Computación, estudia el trabajo precarizado que está detrás de la ilusión de que las IA saben por sí mismas. En el podcast En Código Rojo contó que “las grandes masas trabajadoras que sostienen a la IA están reservadas para lo oculto, no se habla de eso, y eso es intencional. Hay una parte que sí se ve y que es lo que se nos vende, pero sin el trabajo de estas personas no existiría la Inteligencia Artificial como la conocemos hoy”. Estas herramientas informáticas estadísticas necesitan miles de millones de retazos de información para funcionar.
“Estos trabajadores hacen tareas de recolección de datos, o se les pide que se saquen fotos, o que graben su propia voz, o hacen tareas de etiquetado y clasificación o de verificación de contenido, ellos le ponen el cuerpo a la IA”, continúa Milagros. Muchas veces esa información también la proveemos los usuarios del Internet sin siquiera saberlo al utilizar Google, Chat GPT, Instagram y cualquier otra plataforma. “Cada vez que nos proveen un servicio gratuito, el precio lo pagamos con nuestra información”, coincide la fuente anónima.
¿Quién es el responsable?
Juan Pablo Chiesa insiste en que la responsabilidad final siempre es humana. Detrás de toda programación y de todo criterio de evaluación se encuentra un plan hecho por personas y, según él, las entrevistas realizadas por una IA pueden evitar sesgos que normalmente cometerían las personas al realizar entrevistas de trabajo. No importa tu físico, si tenés pelo largo o corto, si es marrón o rubio, si tenés tatuajes o no. La IA no puede ver nada de eso y evalúa a las personas por sus habilidades: su conocimiento respecto de un tema, su capacidad de resolver problemas, sus habilidades blandas.
Por su parte Milagros Miceli, quien también es investigadora del Weizenbaum-Institut de Alemania, considera que los sesgos están embebidos en la IA y los datos de entrenamiento. En su paper “Analizando datos de aprendizaje automático”, escrito junto con Julian Posada y Tianling Yang, habla sobre la necesidad de replantear el concepto de “sesgo” que se suele asociar normalmente a los sistemas técnicos (datos o algoritmos). Esta mirada oculta las causas de raíz: las relaciones sociales y organizacionales inscriben valores y preferencias particulares en la tecnología que están ya embebidas en los datos recopilados. Por ejemplo, si se entrena a la IA con datos de quiénes son detenidos con más frecuencia por la calle probablemente tenderás a creer que las personas de piel más oscura son más peligrosas.
Por eso se debe transformar la mirada para pensar el sesgo como poder. Miceli propone “estudiar hacia arriba”, es decir, expandir el campo de investigación para estudiar el poder, interrogar a quienes han permanecido significativamente subestudiados: quienes son dueños de estas tecnologías.
La supuesta transparencia
La realidad es simple: la IA necesita de la inteligencia humana no sólo para ser programada, sino también para encontrar patrones en ella a partir de la acumulación de datos. Según la fuente anónima, “el objetivo de la IA a futuro es borrar la brecha entre lo humano y la tecnología”, pero la parte que desconocemos es que toda actividad humana es susceptible de ser utilizada para entrenar a la IA. Desde la forma en que lavamos los platos, la forma en la que tomamos aire al hablar, hasta nuestro tono de voz, busca detectar sutilezas. La IA sin humanos sería imposible. “En cuanto la IA se empieza a retroalimentar a sí misma, empieza a ser incoherente. No puede entrenarse a sí misma”, necesita de miles de pequeñas porciones de información, para lo cual se necesitan enormes bases de datos. Cuando las IA se canibalizan, aumentan los sesgos y alucinaciones.
Un estudio que salió en febrero de este año realizado por Jiannan Xu, Gujie Li y Jane Yi Jiang de las universidades de Maryland, Singapur y Ohio realiza un análisis respecto al tan renombrado sesgo de la IA. Enviaron 4490 currículums a diferentes ofertas laborales. La mitad fueron escritos por humanos y el resto eran réplicas de cada uno de esos currículum realizados por IA. La idea era comparar los realizados por humanos con los generados por IA en el reclutamiento de empleados. Las IA que evaluaban los CV preferían aquellos realizados por ellas mismas antes que los otros. La conclusión: en un contexto de contratación algorítmica, la IA se prefiere a sí misma, lo cual invita a replantear los criterios de transparencia que las propias IA insisten en tener.
Juan Pablo Chiesa insiste en la falta de educación que hay especto a la integración de la IA en el campo laboral, pero que finalmente, la humanidad deberá adaptarse. “El empleo cambió, hoy el mundo demanda más”, argumenta Chiesa. Mientras tanto, estudios como los de Miceli y los de las universidades de Maryland, Singapur y Ohio ponen en duda la supuesta eficiencia infalible que la IA busca comunicar. Además, ¿cuál es el rol de la tecnología? ¿Ayudar a los humanos a vivir mejor o hacer que los humanos se adapten a ella?
Finalmente, la pregunta que no puede evitar hacerse es ¿en qué medida esas entrevistas son realmente entrevistas y no están siendo utilizadas para entrenar a la misma IA? ¿Debemos confiar que las IA serán transparentes? La respuesta es una investigación en constante movimiento