Los modelos de Inteligencia Artificial basados en datos masivos son aquellos que se crean con grandes cantidades de información que el ser humano ha vertido sobre plataformas de Internet. Imagina los datos que tiene almacenados Google gracias a toda la información que ha indexado, o que tiene una red social como Twitter o como Facebook. O la cantidad de información que hemos volcado en YouTube, en TikTok, en WhatsApp, o en los correos electrónicos que enviamos vía Gmail u Office365, o las fotos que guardamos en Pinterest. Son el conocimiento y el sentir de casi toda la humanidad.
Y como la potencia de cómputo ha crecido hasta cotas insospechadas hace años, la posibilidad de ejecutar un programa sobre todo Internet, o sobre todos los datos que una de esas grandes plataformas tiene, ya no es ningún sueño. Y si ese programa es un algoritmo de aprendizaje de un Modelo de Inteligencia Artificial, pues tenemos justo eso, Inteligencias Artificiales basadas en Datos Masivos.
Es decir, un único programa de inteligencia artificial que ha aprendido leyéndose todo lo que ha pillado. Sin preocuparse de si era verdad, mentira, injusto, manipulado, o si estaba construyendo un modelo inteligente con todas las cosas malas que los humanos hayan vertido en esos datos. Envidia, racismo, odio, prejuicios o discriminación. Para el frío algoritmo de la IA son solo datos. Fríos datos para una fría Inteligencia Artificial.
Por eso, cuando creamos un modelo de Inteligencia Artificial basado en datos masivos para hacer traducciones, aparecen sesgos de género en todas sus traducciones. Los jueces son hombres, las mujeres enfermeras. Es una realidad que hay que entender, pues son estos los programas que van a dirigir nuestra vida en los próximos años, como lo ha sido la tecnología, las redes sociales o la movilidad en los presentes, por citar algunos.
Estos modelos de Inteligencia Artificial basados en datos masivos se utilizan muchas veces para hacer lo que se llama “Generative AI”, o Inteligencia Artificial “Creativa”, o “Generativa”. Es decir, Inteligencia Artificial que puede usarse para escribir un artículo – como vimos en el artículo de OpenAI escribiendo sobre Arturo Pérez-Reverte – o como en el caso de CrAIyon, una divertida web donde puedes decirle a una IA que dibuje algo con ceras.
En este caso se trata de un modelo de Inteligencia Artificial basado en datos masivos llamado Dall-e ( en concreto Dall-e Mini ) que sirve para pintar (nótese el juego de sonidos con Dalí), y que permite que cualquiera le pida que dibuje cualquier cosa. Puede dibujar gente famosa —así, así le sale, que yo le pedí dibujar a Iker Casillas o Ferrán Adrià y los sacó así, así—, pero también cosas normales, donde aparecen todos los sesgos y estereotipos del mundo.
No voy a pararme en todos ellos, que son infinitos, y te invito a que los pruebes tú mismo pidiéndole que dibuje lo que quieras probar. Yo os dejo solo este, de “leader talking” donde para la IA es un hombre, blanco, con corbata.
Pero hoy no me quiero dedicar tanto a los sesgos de género por defecto como a los estereotipos, cómo ve a Hombres y Mujeres. No puedo poner todos, así que os invito a que os animéis a pedirle vosotros muchos más dibujos. Yo, como tengo un par de hijas pequeñas, voy a pedir estereotipos de mujer, a ver cómo ve, por ejemplo, si le pides que te pinte una “Smart Woman”. Que como veis asocia al traje chaqueta, por encima de todo.
Si pedimos ahora que nos haga un dibujo de una “beautiful woman”, veremos que ha primado otro tipo de características, como son el cuello y los hombros al descubierto. Eso es lo que la IA ha asumido como uno de los rasgos que debe tener una mujer bella para que se la reconozca como tal.
Si le pedimos que dibuje ahora a una “elegant woman”, el resultado es que es una mujer bella pero con un vestido que deja ver hombro, cuello o espalda. Supongo que es lo que ha aprendido de lo que hemos vertido en la red todos.
No le pidáis que sea perfecto craiyon dibujando. Aún está aprendiendo y solo es un dibujo con ceras. El ya disponible Dall-e 2 es mucho más perfecto, y en un par de años tendremos ya esto como forma de hacer dibujos de manera común. Y serán perfectos o cuasi. En este ejercicio no se trata tanto de la calidad del dibujo, sino del estereotipo con el que conceptualiza lo que le pedimos que dibuje. En el siguiente ejemplo, una mujer tonta la hace con la boca abierta… y con los hombros cubiertos.
Podría estar aquí hasta el día del juicio enseñándoos dibujos con estereotipos de toda clase, pero para terminar el recorrido de presentación solo quiero terminar cerrando cómo ve este modelo de IA a una “ugly woman”, donde nos ha salido de lo más terrorífico dibujando “ugly women”.
Y no me resisto a las dos últimas. A pedirle que me dibuje a una “sexy woman” y a un “sexy man”, a ver si se parece algo a mí, que ya sé la respuesta de antemano.
Hombres depilados, musculosos, sin pelo largo, sin barbas largas. Exactamente como soy yo.
Conclusión
He hablado mucho de esto por aquí, pero los datos con los que educamos a nuestras inteligencias artificiales son el proceso de escolarización y educación de una persona en sociedad. Si no nos preocupamos de formar correctamente a las inteligencias artificiales, vamos a tener todo lo malo que intentamos, poco a poco, ir erradicando de nuestra sociedad. Lo único que cambiará es que en lugar de estar en las cabezas de personas de la sociedad, lo vamos a meter en modelos de Inteligencia Artificial que nos educarán o tomarán decisiones por nosotros.
-
La llamada de… Arnaldur Indriðason
/febrero 26, 2025/Álvaro Colomer sigue indagando en el mito fundacional oculto en la biografía de todos los escritores, es decir, desvelando el origen de sus vocaciones, el germen de su despertar al mundo de las letras, el momento exacto en que sintieron la llamada no precisamente de Dios, sino de algo acaso más complejo: la literatura. *** * No todos los escritores sienten la llamada durante la primera juventud. Raymond Chandler, por ejemplo, trabajó como ejecutivo en una compañía petrolera hasta los 44 años, edad en que se fue al paro por culpa de la Gran Depresión y en que, por aquello…
-
Nouvelle Vague
/febrero 26, 2025/«El cine, heredero de la alquimia, lo último de una ciencia erótica» Jim Morrison Que el arte perdure no es casual, a pesar del compás de tres por cuatro que marcan los mercados ignorando la anomalía geográfica de Tánger, donde Mediterráneo y Atlántico sortean fronteras como el mercurio lo sólido. Porque el mercurio es el único elemento metálico que, sometido a la presión atmosférica y temperatura propias de un laboratorio, se manifiesta en estado líquido. Mercurio, también, fue el dios romano protector de los poetas. En Tangernación, con William S. Burroughs como excusa, o en Púbol, revisitando a Dalí, Da Cruz…
-
El rastro de la nieve
/febrero 26, 2025/—Siempre buscas la felicidad allí donde no estás —me regañaba—. Sabes que soy alérgica a la nieve y a ti no se te ocurre otra cosa que hablarme de esquiar. Y así era, en efecto. Porque lo que yo quería era irme con ella, irnos muy lejos: tal vez a una isla —según Lawrence Durrell, los apasionados de las islas somos “islómanos”—, tal vez a la montaña, tal vez a esquiar juntos. Me vine arriba nada más darle el segundo o tercer beso, lo admito, y eso que el verano no había llegado a su fin. —Vayámonos a esquiar. —Pero…
-
Los espacios libres donde estar ausentes
/febrero 26, 2025/“Duermo con el fusil junto a la cama. Y salgo cada mañana de la tienda y me echo a caminar con los ojos atentos al follaje de traicionero, el arma amartillada y el alma en vilo. Cada día de mi vida adulta es una expedición por ese territorio, hostil y confuso, al que llegan noticias funestas y donde varios amigos fueron devorados por fieras escondidas o se hundieron para siempre en pantanos inesperados. Soy testigo ocular de esas tragedias, y entonces marcho con cuidado y duermo siempre esperando lo peor. Si me baño feliz en un espejo de agua, presiento…
Zenda es un territorio de libros y amigos, al que te puedes sumar transitando por la web y con tus comentarios aquí o en el foro. Para participar en esta sección de comentarios es preciso estar registrado. Normas: