¿Nos están adelantando por la izquierda?
Ayer asistí a una ponencia sobre sesgos de género en la inteligencia artificial y perspectiva de género y salí con una pregunta que, sinceramente, hasta ese momento no me había planteado.
Estamos dedicando años a conseguir que haya más mujeres ocupando espacios de decisión y a recordar que existen grandes profesionales, empresarias, científicas, directivas y referentes que durante demasiado tiempo han tenido mucha menos visibilidad.
Pero mientras hacemos todo eso, ¿qué está aprendiendo la inteligencia artificial?
¿Estamos rompiendo un techo de cristal y construyendo otro dentro de un algoritmo?
Esta mañana decidí hacer un experimento.
Le pedí a una inteligencia artificial que me diera diez personas que considerara grandes referentes de éxito empresarial de los últimos diez años.
La respuesta me llamó la atención: prácticamente todos eran hombres. Solo apareció una mujer.
Entonces pregunté:
¿No hay mujeres?
Claro que las había.
Cuando se lo señalé, empezó a darme nombres femeninos. Primero unos pocos. Después le pedí que siguiera buscando y aparecieron muchas más.
Y ahí estuvo para mí lo interesante del ejercicio.
Las mujeres estaban.
El conocimiento estaba.
Pero en la primera respuesta prácticamente no habían aparecido.
Y ahí pensé: tenemos un problema.
¿Qué realidad estamos enseñando a las máquinas?
Esto no pretende ser un experimento científico.
Es una prueba muy sencilla que hice después de la ponencia de ayer.
Pero si yo pido referentes de éxito empresarial y la primera respuesta me devuelve nueve hombres y una mujer, a mí me parece evidente que hay algo que debemos mirar.
Porque llevamos décadas intentando cambiar la representación de las mujeres en nuestra sociedad y puede que, sin darnos cuenta, estemos dejando que una de las tecnologías con mayor capacidad para influir en cómo buscamos información, aprendemos, contratamos, decidimos o construimos referentes reproduzca precisamente los patrones que estamos intentando dejar atrás.
Vamos, que nos están adelantando por la izquierda.
Y no es únicamente una impresión.
Sesgos de género en la inteligencia artificial: por qué importan
UNESCO ha analizado modelos de inteligencia artificial generativa y ha encontrado estereotipos de género claros. En algunos de sus estudios, los nombres masculinos aparecían relacionados con conceptos como negocio, salario, carrera o puestos ejecutivos, mientras que las mujeres aparecían con mucha mayor frecuencia vinculadas al hogar, la familia y determinados roles tradicionalmente femeninos.
Los sesgos de género en la inteligencia artificial no son solo una cuestión técnica: también influyen en qué referentes vemos, qué perfiles asociamos al liderazgo y qué realidad terminamos considerando normal.
Y aquí es donde creo que nos pueden estar metiendo un gol.
Estamos educando a la sociedad… ¿y a la IA?
Mientras educamos a nuestros hijos de otra manera, reclamamos igualdad de oportunidades, visibilizamos referentes femeninos y trabajamos para romper techos de cristal, estamos incorporando a nuestras vidas una tecnología entrenada, en gran parte, con todo lo que hemos escrito, fotografiado, publicado y documentado durante décadas.
Y nuestra historia no ha sido igualitaria.
Hasta aquí me ayuda la IA con este artículo.
Porque, ¿sabes qué?
Se está justificando. Y yo me estoy enfadando. Y esto no va a acabar bien.
Me dice:
“Tu prueba no demuestra científicamente un sesgo del sistema, porque una respuesta puede variar según el modelo, el prompt o el momento.”
A ver.
Científicamente igual no. Pero si te pido personas referentes de éxito empresarial y me das nueve hombres y una mujer, hay un desequilibrio evidente en la respuesta.
Luego añade:
“Mi primera respuesta mostró una selección muy desequilibrada y la segunda estuvo condicionada por tu corrección. Ninguna de las dos demuestra, por sí sola, cuál sería la proporción justa de mujeres y hombres.”
Ya. Pero volvemos al principio. Cuando busqué referentes de éxito empresarial, de entrada me diste hombres.
Y aquí está precisamente el problema.
El pasado no puede seguir decidiendo quién es referente
La propia inteligencia artificial me explica que durante muchos años los grandes empresarios que aparecían en los medios eran mayoritariamente hombres, los presidentes de compañías eran mayoritariamente hombres, los expertos consultados eran mayoritariamente hombres y los referentes empresariales que aparecían en libros, periódicos y bases de datos eran mayoritariamente hombres.
Y, por tanto, aprende de esa realidad.
Perfecto.
Entonces, ¿qué hacemos?
¿Como históricamente las mujeres tuvimos mucha menos presencia en el éxito empresarial, seguimos alimentando esa misma representación?
Porque si aceptamos ese razonamiento sin cuestionarlo, entramos en un círculo bastante peligroso:
lo que tuvo visibilidad ayer obtiene más visibilidad hoy y, por tanto, tiene todavía más posibilidades de convertirse en referente mañana.
Y lo que tuvo menos espacio vuelve a quedarse atrás.
El pasado explica el sesgo.
Pero no debería justificar que lo repitamos.
Aquí tenemos una responsabilidad enorme
No creo que la solución sea desconfiar de la inteligencia artificial ni convertirla en el enemigo.
Todo lo contrario.
Creo que va a ser una herramienta extraordinaria y que cada vez va a formar parte de más decisiones de nuestra vida personal y profesional.
Precisamente por eso tenemos que prestarle atención ahora. Como ya escribí cuando hablé de cuánto pagamos realmente por nuestro sueldo, detrás de cualquier resultado también hay decisiones, tiempo y renuncias.
Porque cuando preguntamos a una IA quiénes son las personas más importantes de un sector, qué aspecto tiene un CEO, quién es un buen candidato para un puesto, quién es experto en determinada materia o qué profesionales deberíamos tomar como referencia, esa respuesta también contribuye a construir nuestra percepción de la realidad.
Y si siempre devuelve los mismos perfiles, estamos reforzando aquello que precisamente llevamos años intentando cambiar.
No basta con ocupar espacios. También tenemos que dejar rastro
Por eso creo que nuestra responsabilidad ya no consiste únicamente en conseguir que haya más mujeres ocupando determinados espacios.
También tenemos que conseguir que su trabajo, su conocimiento, su experiencia y sus logros formen parte de la información con la que estamos construyendo el futuro.
Publicar.
Nombrarlas.
Referenciarlas.
Crear contenido.
Reconocer expertise.
Dar visibilidad a sus resultados.
Incluir mujeres cuando hablamos de referentes, no únicamente cuando hablamos de mujeres.
Porque quizá dentro de unos años una parte importante de lo que una nueva generación entienda por liderazgo, éxito, talento o autoridad no procederá únicamente de lo que haya aprendido en casa, en la escuela o en una empresa.
También procederá de las respuestas que le dé una máquina.
Y ahí está la paradoja.
Podemos trabajar durante años para romper un techo de cristal y descubrir después que hemos construido otro, mucho menos visible, dentro de un algoritmo.
No basta con preguntarle. También tenemos que enseñarle
La ponencia de ayer me hizo entender algo que hasta ahora no había incorporado suficientemente a mi manera de utilizar la inteligencia artificial:
no basta con preguntarle. También tenemos que cuestionar lo que nos responde. Y enseñarle.
Si me devuelve diez hombres y una mujer, tengo que preguntarme por qué.
Y enseñarle.
Si una profesión aparece siempre representada por el mismo género, tengo que detectarlo.
Y enseñarle.
Si echo de menos una perspectiva, tengo que pedirla.
Y enseñarle.
Porque la inteligencia artificial puede aprender muchísimo de nosotros.
La pregunta es:
¿qué queremos enseñarle?
Para no marcarnos un gol en propia puerta
Después de tantos años intentando cambiar determinadas reglas de nuestra sociedad, sería absurdo permitir que la tecnología del futuro siguiera mirando el mundo con los ojos de hace ochenta años.
Y, sin darnos cuenta, acabáramos marcándonos un gol en propia puerta.