La Inteligencia Artificial Creativa y los estereotipos de hombres, mujeres y viceversa

Y como la potencia de cómputo ha crecido hasta cotas insospechadas hace años, la posibilidad de ejecutar un programa sobre todo Internet, o sobre todos los datos que una de esas grandes plataformas tiene, ya no es ningún sueño. Y si ese programa es un algoritmo de aprendizaje de un Modelo de Inteligencia Artificial, pues tenemos justo eso, Inteligencias Artificiales basadas en Datos Masivos.

Es decir, un único programa de inteligencia artificial que ha aprendido leyéndose todo lo que ha pillado. Sin preocuparse de si era verdad, mentira, injusto, manipulado, o si estaba construyendo un modelo inteligente con todas las cosas malas que los humanos hayan vertido en esos datos. Envidia, racismo, odio, prejuicios o discriminación. Para el frío algoritmo de la IA son solo datos. Fríos datos para una fría Inteligencia Artificial.

Por eso, cuando creamos un modelo de Inteligencia Artificial basado en datos masivos para hacer traducciones, aparecen sesgos de género en todas sus traducciones. Los jueces son hombres, las mujeres enfermeras. Es una realidad que hay que entender, pues son estos los programas que van a dirigir nuestra vida en los próximos años, como lo ha sido la tecnología, las redes sociales o la movilidad en los presentes, por citar algunos.

Estos modelos de Inteligencia Artificial basados en datos masivos se utilizan muchas veces para hacer lo que se llama “Generative AI”, o Inteligencia Artificial “Creativa”, o “Generativa”. Es decir, Inteligencia Artificial que puede usarse para escribir un artículo – como vimos en el artículo de OpenAI escribiendo sobre Arturo Pérez-Reverte – o como en el caso de CrAIyon, una divertida web donde puedes decirle a una IA que dibuje algo con ceras.

En este caso se trata de un modelo de Inteligencia Artificial basado en datos masivos llamado Dall-e ( en concreto Dall-e Mini ) que sirve para pintar (nótese el juego de sonidos con Dalí), y que permite que cualquiera le pida que dibuje cualquier cosa. Puede dibujar gente famosa —así, así le sale, que yo le pedí dibujar a Iker Casillas o Ferrán Adrià y los sacó así, así—, pero también cosas normales, donde aparecen todos los sesgos y estereotipos del mundo.

craiyon.com

No voy a pararme en todos ellos, que son infinitos, y te invito a que los pruebes tú mismo pidiéndole que dibuje lo que quieras probar. Yo os dejo solo este, de “leader talking” donde para la IA es un hombre, blanco, con corbata.

Craiyon dibujado “leader talking”

Pero hoy no me quiero dedicar tanto a los sesgos de género por defecto como a los estereotipos, cómo ve a Hombres y Mujeres. No puedo poner todos, así que os invito a que os animéis a pedirle vosotros muchos más dibujos. Yo, como tengo un par de hijas pequeñas, voy a pedir estereotipos de mujer, a ver cómo ve, por ejemplo, si le pides que te pinte una “Smart Woman”. Que como veis asocia al traje chaqueta, por encima de todo.

Así dibuja craiyon una “Smart woman”

Si pedimos ahora que nos haga un dibujo de una “beautiful woman”, veremos que ha primado otro tipo de características, como son el cuello y los hombros al descubierto. Eso es lo que la IA ha asumido como uno de los rasgos que debe tener una mujer bella para que se la reconozca como tal.

La mujer bella con hombros y cuello al aire

Si le pedimos que dibuje ahora a una “elegant woman”, el resultado es que es una mujer bella pero con un vestido que deja ver hombro, cuello o espalda. Supongo que es lo que ha aprendido de lo que hemos vertido en la red todos.

Craiyon dibujando mujeres elegantes

No le pidáis que sea perfecto craiyon dibujando. Aún está aprendiendo y solo es un dibujo con ceras. El ya disponible Dall-e 2 es mucho más perfecto, y en un par de años tendremos ya esto como forma de hacer dibujos de manera común. Y serán perfectos o cuasi. En este ejercicio no se trata tanto de la calidad del dibujo, sino del estereotipo con el que conceptualiza lo que le pedimos que dibuje. En el siguiente ejemplo, una mujer tonta la hace con la boca abierta… y con los hombros cubiertos.

Así dibuja Craiyon una “silly woman”

Podría estar aquí hasta el día del juicio enseñándoos dibujos con estereotipos de toda clase, pero para terminar el recorrido de presentación solo quiero terminar cerrando cómo ve este modelo de IA a una “ugly woman”, donde nos ha salido de lo más terrorífico dibujando “ugly women”.

Mujeres ugly

Y no me resisto a las dos últimas. A pedirle que me dibuje a una “sexy woman” y a un “sexy man”, a ver si se parece algo a mí, que ya sé la respuesta de antemano.

Sexy Man según craiyon

Hombres depilados, musculosos, sin pelo largo, sin barbas largas. Exactamente como soy yo.

Conclusión

He hablado mucho de esto por aquí, pero los datos con los que educamos a nuestras inteligencias artificiales son el proceso de escolarización y educación de una persona en sociedad. Si no nos preocupamos de formar correctamente a las inteligencias artificiales, vamos a tener todo lo malo que intentamos, poco a poco, ir erradicando de nuestra sociedad. Lo único que cambiará es que en lugar de estar en las cabezas de personas de la sociedad, lo vamos a meter en modelos de Inteligencia Artificial que nos educarán o tomarán decisiones por nosotros.