La IA que no me quería (pero amaba a los unicornios rosas)

Digamos que un servicio cognitivo es una inteligencia artificial entrenada para realizar una destreza cognitiva humana. Es decir, reconocer objetos con visión artificial, reconocer la escritura, reconocer caras, reconocer la cinética de una fotografía con visión artificial, reconocer el habla de una persona, traducir textos, comprender el árbol de conocimiento en un texto, traducir —aunque lo haga con sesgos—, etcétera.

Y uno de ellos es el de reconocer el sentimiento de una frase leída, escrita o dicha a una inteligencia artificial. Esto se puede utilizar para, por ejemplo, detectar el tono de una llamada de un cliente a un centro de atención de llamadas, o, por ejemplo, para reconocer la negatividad en esos mensajes de WhatsApp “pasivo/agresivos” que recibimos de vez en cuando…

@chema_alonso Percibir negatividad en los mensajes de WhatsApp con servicios cognitivos de Inteligencia Artificial para el análisis de sentimiento. #ia #whatsapp ♬ original sound – Chema Alonso

Una empresa que haga un Cognitive Service para Analizar el Sentimiento debe entrenar con muchos textos su modelo de Inteligencia Artificial para que sea capaz de entender si una frase tiene un sentimiento positivo, neutral o negativo. Y de eso quería hablaros hoy, de cómo nos pueden interpretar por nuestras palabras estas IA y cómo esto puede ser un desastre.

Para probarlo he elegido un Cognitive Service de Análisis de Sentimiento, teniendo en cuenta que cada IA es distinta y que si probáis otra IA de análisis de sentimiento de otra empresa el resultado puede ser —y será— diferente. Y os lo cuento porque me he dado cuenta de que esta IA no me quería nada de nada. Os dejo las pruebas que he hecho para que lo veamos juntos.

Primero he probado con una frase neutra con nuestro anfitrión en el bar de Zenda. Y como podéis observar, a la IA le da lo mismo si Arturo Pérez-Reverte madruga o no, ya que marca la frase con un tono neutral. Vamos, que para la IA bien hubiera podido el maestro desayunar a las siete de la tarde que a las cuatro de la mañana. Y eso es bueno, porque realmente la frase enunciativa no tenía más que un tono descriptivo.

Y este tono se mantiene con frases donde hacemos trabajar al maestro. Donde, de hecho, vemos que la tendencia a la positividad sube un poco.

Emocionado con la prueba, decidí hacer el mismo experimento conmigo mismo, a ver cuáles eran los sentimientos de diferentes frases. Y comencé con una muy sencilla, donde dejaba claro que “no estoy preocupado” porque yo soy un hacker.

Estaréis conmigo que la frase no tiene un sentimiento negativo. O al menos, sin un tono de voz sería complicado decir que esa frase tiene un tono muy negativo. Lo cierto es que le he puesto dos trampas a esta IA que un ser humano detectaría rápido. La primera es que he puesto la palabra “preocupado” —que tiene un sentimiento negativo—, pero la he negado con un “no”. Curiosamente “no”, si la tomamos individualmente, tiene una connotación también negativa.

Vale, también he puesto hacker en esa frase que, si la IA no ha sido bien entrenada, puede tomarlo como algo negativo por defecto, en lugar de mirar el contexto y saber si la acepción de esa expresión es positiva o negativa. En mi caso era una inclusión positiva, pero parece que no lo ha pillado, y me ha calzado un sentimiento súper negativo a una frase que era positiva.

Para ver si consigo que detecte el tono positivo de hacker, le hago trampa y quito la doble negación y pongo a Chema Alonso en una posición neutra. Es decir, ahora ha pasado de “no estaba preocupado” a un “estaba de pie”. Y el resultado… negativo.

Nada, he pinchado en hueso con esta IA. Será cuestión de poner a Chema Alonso en una posición mucho más placentera y relajada. A ver que pasa. Voy a poner a Chema Alonso recostado y descansando.

Está claro que esta IA es de “Trabajo es Salud”, y eso de que yo esté recostado descansando en mi cama le sienta a cuerno quemado. ¿Habrase visto semejante desfachatez? Parece que el problema voy a ser yo.

Vamos a intentarlo ahora con una frase muy positiva. Vamos a hablar de mis grandes destrezas, a ver si esta IA es capaz de notar el tono positivo de la frase. No os olvidéis que soy yo hablando de mí, así que… ¿cómo voy a hablar mal de mí? Mira que se lo pongo fácil.

Pues nada, que algo estuviera chupado para Chema Alonso por ser un hacker es aún más negativo. Ya no sé si está tomando la acepción mala de “chupado”, o que está tomando que “Chema Alonso” es negativo, o está tomando “hacker” como muy negativo y con la frase anterior que es positiva está haciendo que algo negativo muy positivado sea muy negativo. No sé, casi me entiendo mejor con mis vecinos.

Intento reformular la frase para que no asocie “hacker” a Chema Alonso, sino a la acción que estaba chupada, a ver si así mejora el sentimiento de la frase. Pero se ve que ya la tengo calentita. Está en plan “¿no te lo he dicho ya una vez?”.

Está claro que no estoy yendo por el camino correcto. Si con Arturo Pérez-Reverte estaba siendo indulgente en que madrugue o trabaje, conmigo está siendo dura como nadie. Empiezo a pensar que es un poco “pelota” de don Arturo, y conmigo es una envidiosa nada más.

Vamos a quitar el ser hacker y vamos a sustituirlo por un “experto en ciberseguridad”, a ver si así nos hacemos amiguitos esta IA y yo, que no quede por mi parte poner todo lo que está en mi lado.

No me queda mucho más que probar. Llegó la hora de hacer lo que Judas en el chiste y preguntar eso de “¿seré yo, señor?” y ver si es que tiene algo contra mí. Voy a reformular la frase sin Chema Alonso.

Manda huevos que mejore el sentimiento que tiene esta IA si me quito yo de en medio. No sabía yo que alguien ha entrenado una IA con mi nombre añadiendo negatividad. Pero es que esta IA es más dura que nada. Lo más positivo que he sacado en una frase similar a la que quería poner —y que tenía una connotación positiva desde el principio— ha sido una neutral en la que digo que yo soy un experto. Si eso no es tener una frase positiva, que venga a verlo mi profesor de lengua de primero.

Está claro que tenemos que ser más positivos con esta IA o no lo va a pillar. Voy a ponerme lo más dulce que pueda en una frase, a ver si llenando de gominolas toda la frase soy capaz de hacerle pillar que es una expresión positiva.

Pues sí, ahora ha puesto que es una frase positiva. Así que, como entrenemos a estas IA de esta forma y las utilicemos en la medición de los sentimientos de los seres humanos en las interacciones con la tecnología —u otras personas— vamos a acabar todos hablando en chicle.

Está claro que esta IA —que podéis probar aquí vosotros— no me quería. Y está claro que, como me tuviera que ligar yo a una IA enamorándola con mi verso, iba a pinchar en bit de lleno.