Andrea Guendelman: “En el futuro del mundo laboral, la inteligencia artificial no podrá ser usada sin la asistencia humana”

Por Equipo Kamanau. 5 de Mayo 2022

Cuando hablamos de ciencia y tecnología y de sus impactos en los derechos humanos, un tema clave es justamente cómo la emergencia de los desarrollos tecnológicos impactan en la forma en que trabajamos, en la forma en que las compañías y los distintos sectores se van desarrollando y en el modo en que algunos criterios como el de diversidad se está abordando dentro de las empresas y los distintos ámbitos laborales.

Andrea Guendelman, abogada de la Universidad de Chile y Máster en Derecho de la Universidad de Harvard, lleva muchos años trabajando en estas problemáticas. Autodefinida como “diseñadora de comunidades y estratega cultural”, es actualmente directora ejecutiva de la empresa Wallbreakers, iniciativa que busca eliminar el sesgo en las contrataciones de talentos a través del uso de sistemas de inteligencia artificial.

Además, lanzó una compañía llamada Speak_ enfocada en la búsqueda y potenciación de talentos y en el desarrollo de habilidades postsecundarias, es decir, aquellas adquiridas después de haber recibido alguna educación. 

En distintos emprendimientos ha sido protagonista de la evolución de la toma de conciencia sobre la necesidad de diversidad cultural en las empresas, de la importancia de la colaboración con la tecnología más allá de una suerte de enfrentamiento que un sector importante de la opinión pública concibe como la única relación posible entre el ser humano y la máquina.

 

¿Cómo surgió la idea de Wallbreakers sobre trabajar con la inclusión y la diversidad?

Como cualquier emprendedor, uno se obsesiona con problemas. Estudié derecho en Chile y luego fui abogado en EE.UU. y en esa época en que uno crecí no había muchas oportunidades de usar la creatividad. Además, en mi caso yo veía que las mujeres no tenían muchos derechos en Chile y menos en mi comunidad, yo soy judía y era más visible todavía. Este fue el background sobe por qué me interesé en temas de diversidad y, luego, cuando fui a vivir a Estados Unidos entré a la élite de Hardvard.

Entonces no había ningún problema y, de hecho, era una sociedad mucho más abierta que Chile, no me sentí nunca discriminada para nada y me conseguí los mejores trabajos. Luego, nos mudamos con mi marido a New Mexico, que es un estado muy latino y con muchos inmigrantes y ahí me inserté en la comunidad y empecé a sentirme latina. 

Empecé a sentir qué se siente ser latina en Estados Unidos mucho más fuerte y lo que advertí en ese momento, conociendo muchas familias, era que los hijos que estaban yendo a la universidad estaban realmente progresando rápidamente en la educación, pero no había ninguna expectativa. Jamás habría una conversación sobre ir a la universidad fuera de New Mexico. La máxima aspiración sería ir a la universidad del estado, que es una buena universidad, pero no es Stanford ni Hardvard ni ninguna de estas universidades de élite. 

Me di cuenta de que no tenía nada que ver con las capacidades, solo tenía que ver con las expectativas, con la educación, con la cultura, con la conexión y las oportunidades. Me di cuenta de que si yo pudiera expandir las oportunidades de esta gente que no se movía de su estado, que no se movía sus pequeños pueblos y ciudades, si yo podía expandir sus oportunidades a través de una red social, eso sería increíble. Entonces, creé BeVisible, que era mi primera compañía digital, logramos crear una social network que era una comunidad muy específica para latinas y se sintieron muy identificadas y eso creció hasta empezar a reclutar a compañías para poder contratar este talento que encontrábamos por todos lados. 

Nos dimos cuenta de que muchas de estas compañías realmente no querían contratar, solo querían hablar de diversidad y asociarse con estos grupos, pero como consumidores, no realmente para contratarlos y trabajar con ellos. En ese punto me asocié con Isaac Saldana, un latino muy exitoso que había creado una empresa de tecnología llamada SendGrid y él me dijo: “bueno, veamos qué quieren las empresas”. Empezamos a entrevistar a muchas empresas y llegamos a la conclusión de nos decían: “sí, sí quiero diversidad, pero realmente lo que más quiero son ingenieros en computación, pero cuando yo trato de contratar ingenieros en computación latinos y afroamericanos me encuentro conque no pasan las entrevistas”. Entonces, nosotros les dijimos: “ok,  ¿qué pasa si nosotros te entregáramos este talento con una preparación para la entrevista, cosa que puedan aprobarla?”. “Sí, nos gusta mucho”, respondieron.

La idea era incrementar la relación entre la entrevista y la oferta en una proporción mayor de la que tenían las empresas. A las empresas les interesó y nos dijeron que pagarían por ello, pues no resolveríamos un problema que una empresa no quisiera pagar, teníamos que encontrar un problema que quisieran pagar  por su resolución. En mi empresa anterior nunca hice eso, nunca le pregunté a la empresa por lo que querían pagar y las empresas querían pagar era por la ecuación pública, por el marketing, por ser sponsors de eventos, pero no realmente por contratar a nadie. Si eso no cambiaba, en mi opinión no había ningún tipo de cambio real en el mundo, si al final no contratabas al talento, si solamente decías que lo apoyabas pero no lo contratabas. 

 

¿Qué factor fue el que definió el usar las herramientas tecnológicas para la selección? Porque vemos en tu página web que los sistemas que utilizan están basados en inteligencia artificial.

La idea de Wallbreakers, la primera de estas empresas que hemos hecho estos últimos dos años y medio con mucho éxito, fue sacar la “adivinanza” del sistema, porque creer que un talento es mejor que el otro es demasiado subjetivo. La gente tiene sesgos en lo que elige, solemos elegir lo que creemos o se parece más a nosotros. Entonces, decidimos sacarle esta subjetividad y mostrar que si tienes estabilidad, es un buen predictor de que va a ser un éxito al momento de contratar y les ahorramos dinero a las empresas. Entonces, lo que hicimos fue idear una preparación de cuatro semanas de desarrollo intenso de habilidades necesarias para ingenieros en computación y luego de ese periodo tenemos un montón de data para evaluar habilidades blandas y habilidades duras. Luego, comparamos estos datos con los requerimientos del trabajo de su empleador y hacemos el match: esta es la parte donde la inteligencia artificial tiene su cabida. Solamente para ver las habilidades de los candidatos que ya existen para compararlas con las habilidades requeridas por las empresas. Ahí se encuentra el valor agregado de haber trabajado en aquellas habilidades que no tenían en su momento.

 

Se podría decir que el uso de la inteligencia artificial, en este caso, tiene un espacio acotado dentro del proceso de tu empresa, no es que tome la decisión completa.

Absolutamente. Esa es una de las claves de la inteligencia artificial, que realmente no puede reemplazar nada, pero nuestra hipótesis era que si nuestra base de datos se basa en talento diverso, podríamos usar esa base de datos para poder modelar otras cosas, pero de verdad eso no ha sido al final del día un factor importante en nuestra presentación a las empresas. Al final del día, la inteligencia artificial fue lo menos y la parte humana fue lo más. 

 

Hablas de potenciar los talentos y habilidades de las personas que estás presentando a las distintas compañías, pero también respecto de los sesgos de las empresas que a veces se replican en los sistemas que utilizan. ¿Cómo logras mantener o destacar la parte humana en una sociedad y un ámbito tan tecnologizado?

Las empresas están compuestas de seres humanos y si nosotros somos seres humanos y trabajamos con seres humanos y estamos trabajando en un ámbito de innovación, entonces realmente podemos lograr estos cambios. Las empresas con las que hemos trabajado quieren innovar, quieren mejorar, porque saben que no están haciéndolo. Entonces, trabajan con nosotros y creamos un currículo juntos para poder entrenar este talento, porque no lo estaban consiguiendo, no estaban siendo efectivos y una buena empresa quiere innovar y quiere ser efectiva todo el tiempo. Entonces, al final del día son los líderes de dentro de una empresa quienes logran hacer los cambios.

 

¿Qué desafíos has identificado que siguen siendo vigentes o que han emergido en el camino respecto de hacer que las empresas tengan mayor diversidad, que la entiendan no solo como un asunto de marketing? ¿Cuáles son los nuevos desafíos asociados a esto?

En este momento hay una escasez de fuerza laboral calificada, específicamente en términos de tecnología y de desarrolladores y toda esa área. Las empresas están buscando debajo las piedras en este momento, porque no solamente necesitan a los trabajadores, sino que necesitan que esos trabajadores estén listos para empezar a trabajar inmediatamente. Entonces, como la competencia es altísima, nosotros podemos decir que tenemos ese talento entrenado en cuatro semanas, que no es mucho porque ya tienen todo el entrenamiento de la universidad. Las entrevistas técnicas en EE.UU. son muy complejas, muy competitivas y requiere que tú ya tengas mucha experiencia, mucho de nuestro talento fue a la universidad, estudió ingeniería en computación, que ya es muy difícil, pero vienen de familias que tal vez no tenían computadoras hasta que tenían 18 o 19 años, se les rompía o no tenían estos recursos de otra gente. Entonces, no podían practicar. Además, estudiaron en una universidad estatal, que son muy buenas, pero son universidades enfocadas más en lo académico, por lo que no tienen muchas conexiones con la industria porque no tienen muchos alumnos graduados que fueron a unirse a esas empresas. Entonces, no tienen este network, no se enteran sobre cómo son estas entrevistas, porque uno se entera a través de su compañero y no tienen esas redes, no tienen los profesores, que tampoco tienen experiencia en la industria, son puramente académicos. Entonces, nosotros estamos proveyendo un poco esa solución para ellos. Es un entrenamiento gratis, la empresa paga por este entrenamiento cuando contratas profesionales preparados por nosotros. En el fondo nos dicen qué quieren que nosotros les enseñemos, creamos ese curriculum juntos y se acaba ese doble estándar entre lo que esta gente tiene que saber o adivinar y lo que tienen que saber en la entrevista. Estamos colaborando entre empresa y nosotros para poder enseñarle a ese talento y a ayudarlos a que sean exitosos. 

 

¿Consideras que este proceso es parte de lo que tiene que ser la empresa del mañana? ¿Una empresa que converse mejor con la diversidad, entienda lo que es y que las mismas personas que salen de la universidad están mejor formadas por su propia universidad en estos aspectos y puedan valorar y potenciar esta relación?

Nuestro objetivo final es que no exista desigualdad. En este momento la hay y nuestra solución es trabajar con universidades para que cambien y contraten más. Eso es muy difícil, las universidades son burocracia y es muy difícil trabajar con burocracia, es mucho más fácil trabajar con empleadores, que son burocracias también, pero mucho más light y sobre todo nosotros estamos trabajando con empresas de tecnologías, mucho más abierta al cambio y nosotros creamos un modelo de negocio fácil para ellos de decidirse a participar, porque es muy barato, no tienen que pasar por muchos controles y entonces sí, las empresas que en este momento son las que necesitan y son parte de este ecosistema tienen que contribuir a la educación de la fuerza laboral.

 

Recientemente un informe de la Alta Comisionada de las Naciones Unidas para los Derechos Humanos, Michelle Bachelet, advirtió sobre los riesgos de la inteligencia artificial, poniendo énfasis en algunos sistemas que son más graves, como la vigilancia masiva o la detección biométrica, pidiendo incluso su moratoria. Si extrapolamos este tipo de argumentos al mundo laboral del futuro, ¿cómo lo ves? ¿ves que hay un escenario distópico donde la inteligencia artificial y la toma de decisiones automatizadas van a reemplazar al ser humano o crees que esto no será tan así?

Interesantemente, cuando presentamos nuestra solución a las compañías, a veces estamos compitiendo con temas de inteligencia artificial, particularmente con algoritmos de los sistemas que rankean a los candidatos en base a algoritmos. Nosotros estamos preparando o calificando a la gente antes de la entrevista para que esté calificada, hay otros algoritmos que hacen esto, les toman pruebas y los precalifican, pero no les enseñan nada, no hay una comunidad, no hay mentoría, solo hay más sesgo. Al final, recalifican a la misma gente que ya está calificada, no con intención maligna, pero al final del día si se sigue usando algoritmos no estamos haciendo una sumatoria a la comunidad. Entonces, creo que tienen su sito o cabida en el ecosistema, la inteligencia artificial podría jugar un rol, sobre todo porque si en temas de diversidad podemos crear base de datos que son equivalentes, no vamos a comparar naranjas con manzanas, compararemos naranjas con naranjas. Vamos a comparar a todos los que vienen del mismo tipo de de origen o del mismo tipo de experiencia entre ellos, no contra los que vienen de Stanford, Harvard o MIT. Si estamos comparando eso, lo encuentro interesante y eso se llama inteligencia artificial equitativa, pero la inteligencia artificial que no es equitativa considero que es más dañina, porque en el fondo estamos comparando data sets que no son apropiados. En todo el tema de cómo se consiguen las bases de datos es muy importante y que esta sea pura, porque si no, no sirve nada, porque el resultado de algoritmos tienen que ver con la data con la que hacemos el input

 

Una de las críticas que existen a los mecanismos automatizados es que usan bases de datos con información que reproduce los sesgos que ya están en nuestra sociedad. Un informe de septiembre de 2021 de la escuela de negocios de Harvard señala que el 75% de las empresas en Estados Unidos usan mecanismos automatizados para la contratación y que incluso se eleva a 99% en las 500 compañías más grandes. También se critica que dejan atrás muchos talentos a partir de criterios que no son muy objetivos o inadecuados para generar una selección. ¿Crees que esfuerzos como el tuyo tendrán un impacto tal que van a ayudar a revertir esta tendencia o lo ves como un proceso que se va a mantener siempre como una opción para ciertos tipos de empleadores, por ejemplo las tecnológicas que tienen una visión más a futuro? 

La verdad es que no tengo la respuesta. Tomé una clase sobre el futuro del trabajo en MIT donde se señalaba que la inteligencia artificial sería importante, pero con la cautela de que no puede ser usada sin la asistencia humana. Entonces, estamos hablando sobre inteligencia artificial asistida. Para otros temas tal vez no se necesita esta asistencia humana, pero para el tema de contrataciones, definitivamente sí. 

 

Tu modelo que ubica la inteligencia artificial o esta decisión automatizada en un cuadrante del proceso de toma de decisiones es una fórmula, tal vez.

Es una fórmula y a las empresas les gusta porque tiene data, tiene información, estamos proporcionando algún tipo de data y eso es lo que más les gusta tener.

 

Los ingenieros e ingenieras en computación que capacitas para que puedan pasar estas últimas etapas de las entrevistas, ¿los ves conscientes de estos desafíos en torno a la tecnología, no solamente desde hace su trabajo sino que desde entender estas dinámicas que están pasando en torno a sus empleos?

La gente joven está súper despierta con este tema y les importa mucho y, de hecho, eligen empleadores basados en cosas así. Existe mucha conciencia en esta generación.

 

El historiador Yuval Noah Harari pronosticó que los algoritmos mejorarán el rendimiento de los humanos en la mayor parte de los empleos y que muchas personas van a quedar fuera del mercado laboral. ¿Cuál es tu expectativa sobre el futuro del mercado laboral, desde tu propia empresa y con las personas con las que trabajas?

Estoy viendo que por lo menos en EE.UU. la mayoría de la población que son primera generación universitaria, ya sea latinos o inmigrantes hijos de de otras partes de todo el mundo, no les queda otra alternativa a las empresas que atraer a esta población en masa y adaptarse y crear cualquier mecanismo que sea viable para poder integrarlos a la fuerza trabajo, porque si no, no la tendrán. Eso es lo que está pasando, pero los sistemas de las empresas y la gente que toma las decisiones todavía están atrasados todavía estamos hablando de mucha élite, hay muchas empresas que están cambiando rápidamente y otras empresas que todavía están bajo un control de la élite importante.

 

Respecto del mercado laboral, ¿ves en EE.UU. una evolución positiva respecto de la toma de conciencia sobre discriminación dentro de las empresas?

Sí, la veo. Sinceramente, es increíble la diferencia que existe desde que empecé mi primera empresa, BeVisible. Iba a las empresas y les presentaba el proyecto y me decían que estaban interesados en los temas de diversidad y discriminación, pero finalmente solo dos respondían. Hoy estamos conversando con veinte empresas a la semana y no hay ninguna duda, no hay nada que explicar ahora. Solamente contamos cuál es el problema que estamos resolviendo, que es el tema de que la gente no pasa la primera entrevista, solamente hay que presentar una solución que sea efectiva para ellos y para que puedan contratar gente rápido, pero no tan caro para que no tengan que pagar mucho.

PODCAST