Ética para máquinas, de José Ignacio Latorre

Vivimos ya en otra realidad. Cualquier concepto de ética tiene que pasar por este nuevo escenario: nuestra relación con las máquinas inteligentes. La aparición de la inteligencia artificial avanzada pone en cuestión la superioridad intelectual de los humanos, nuestra esencia, nuestro lugar en la vida. Este extraordinario libro propone una reflexión sobre una ética para esas nuevas máquinas inteligentes que nos superarán. Ellas tomarán decisiones por nosotros, nos gobernarán. Nuestra responsabilidad ahora es dejarles un buen legado: lo humano.

Zenda adelanta las primeras páginas de Ética para máquinas, de José Ignacio Latorre (Ariel).

Prólogo

La versión más aceptada del nacimiento de Atenea es sorprendente. Zeus, el dios supremo del Olimpo, dejó embarazada a la titánide Metis, hija de Océano. Esta profetizó que la criatura engendrada sería más poderosa que el propio dios. Zeus no dudó, mató a Metis y la devoró. Sin embargo, el feto siguió desarrollándose en el interior de su cuerpo. Preso de un terrible dolor de cabeza, Zeus pidió a Hefesto que le abriese el cráneo con un hacha. Así nació Atenea, vestida con el traje de guerra de los hoplitas. Atenea, garante de la reflexión, es también diosa de la guerra y protectora de Atenas.

Más tarde los romanos adoptaron a Atenea con el nombre de Minerva. Esta recibió las preciadas cualidades intelectuales de Atenea y además protegió a la ciudad de Roma. Minerva-Atenea aúna las artes, la sabiduría y las técnicas de la guerra. El bien y el mal conviven en ella.

En el mundo clásico, la inteligencia viene de la mano de la guerra. La capacidad de reflexionar se viste con un ostentoso casco y una esbelta lanza lista para matar. La razón que justifica esta paradoja parte del hecho de que Zeus, el padre de los dioses y de los hombres, teme haber creado a un ser superior a sí mismo. Sin asomo de duda, Zeus destruye lo que percibe como una amenaza. No importa que ese ser superior pueda ser más inteligente y benévolo que él mismo. Lo relevante del mito de Atenea es que la supremacía intelectual es percibida con terror, incluso entre los dioses más sabios y poderosos. No es extraño que Atenea herede de su padre el poder de destrucción y, nunca lo olvidemos, el don de la reflexión.

No somos dioses, pero sí humanos capaces de crear máquinas que otorgan fuerza, poder, la capacidad de hacer el bien y también de destruir. En el Monte del Olimpo se rumorea que los humanos estamos creando máquinas más inteligentes que nosotros mismos. Solo han pasado unos pocos milenios desde que Zeus actuase tan vilmente. Parece evidente que los mismos temores que Zeus albergó contra Atenea ahora se reencarnan en máquinas que ostentan una inteligencia artificial.

Pidamos a Zeus y Atenea que no luchen, que sean generosos y que transfieran ideales éticos a las nuevas máquinas que los superarán. Máquinas y humanos hemos de convivir. Esperemos que en paz.

El legado de los humanos

Me infundieron voz divina para celebrar el futuro y el pasado
y me encargaron alabar con himnos la estirpe de los felices Sempiternos.

Hesíodo,
Teogonía

Los humanos hemos aprendido a convivir con máquinas inmensamente más fuertes que nosotros mismos. Una grúa puede levantar un camión que pesa cuarenta toneladas; una poderosa prensa logra presiones tan brutales que puede transformar carbón en diamante; un potente motor es capaz de mover las hélices del mayor crucero de la tierra para que surque océanos. Los humanos también hemos aprendido a convivir con máquinas veloces, con coches, trenes y aviones que hacen que el mundo nos resulte mucho más pequeño. En tiempos pasados, las personas viajaban por obligación, por necesidad; hoy lo hacemos por placer. Los humanos nos hemos adaptado al poderío físico de las máquinas.

Sin embargo, a los humanos nos cuesta muchísimo cohabitar con máquinas más y más inteligentes. Los primeros coches causaron sensación, los aviones fascinaban a todo el mundo. En cambio, los ordenadores que ejecutan complejos algoritmos nos atemorizan porque parece que pueden decidir por sí mismos y someternos a su voluntad. En el fondo, lo que está en juego es la esencia de nuestra naturaleza.

Si creamos máquinas que nos superan intelectualmente, ¿cuál es el lugar de los humanos?

Es innegable que el progreso trae consigo elementos negativos. Cada logro tecnológico importante que ha alcanzado la especie humana ha provocado periodos convulsos en que los cambios radicales han dañado a una gran parte de la sociedad. El progreso conlleva alteraciones brutales de las estructuras económicas que se traducen en desconcierto, en falta de leyes adecuadas a la realidad y —tal vez lo que es peor— en un terrible distanciamiento entre generaciones jóvenes y mayores. El avance es demasiado rápido. Es cierto que los humanos se adaptan a cualquier entorno, pero solo en su temprana edad. Una vez el cerebro fija sus sinapsis, se hace muy difícil cambiar las pautas aprendidas. De niños, absorbemos como esponjas el idioma que nos rodea, pero, en nuestra mediana edad, somos incapaces de asimilar una nueva lengua y hablarla sin acento. El cerebro se anquilosa, se protege a sí mismo, rechaza la disrupción; no fue preparado para el cambio constante.

Nuestros cerebros no quieren hacer el gran salto, se resisten a aceptar que pueden crear máquinas que razonan mejor que ellos mismos.

Un hecho irrefutable es que los cambios tecnológicos vienen para quedarse. No hay vuelta atrás en el progreso, sea bueno o malo. Cada generación da por sentado que lo conseguido por sus progenitores es un camino de no retorno y, con frecuencia, un derecho adquirido. En las sociedades acomodadas, una gran parte de la población no realiza tareas físicas porque disponemos de potentes máquinas que hacen el trabajo duro por nosotros. Compramos y vendemos bienes que son fabricados por máquinas y traídos a nosotros por otras máquinas. Además, la economía ha dejado de basarse en el trueque de objetos. Hacemos transacciones cuyo único valor es la información. Dedicamos una gran parte de nuestro tiempo y dinero al entretenimiento puro. No nos es necesario caminar largas distancias porque disponemos de máquinas que nos transportan o, sencillamente, porque nos comunicamos empleando teléfonos que codifican nuestra voz en luz láser a través de fibras ópticas. Todo vestigio de la vida primitiva de los humanos ha desaparecido.

Nos hemos acomodado a esta nueva forma de existencia. No creo que las personas que defienden que antes se vivía mejor pudieran soportar sin anestesia un dolor de muelas en la Edad Media. Somos esclavos del confort que nos aporta el progreso. Sí, es cierto, las manzanas no huelen como antes, pero tampoco las vamos a cultivar al campo, ni soportamos el riguroso frío del invierno sin calefacción. Vivimos en un mundo desnaturalizado al que casi nadie quiere renunciar.

No olvidemos algo importante: cada vez somos más longevos en promedio. En Europa, la vida media ha aumentado en unos cuarenta años con respecto a las personas nacidas al principio del siglo XX. En las Américas, en Oceanía, incluso en África las personas han ganado más de treinta años de vida a lo largo del siglo pasado. Es probable que ni este libro ni una parte de sus lectores hubieran podido existir hace cien años.

Todos percibimos que la transición de la máquina fuerte o veloz a la máquina inteligente es un salto brutal. Sin duda, estamos penetrando un territorio desconocido. Los humanos nunca destacaron por su fuerza o por su velocidad, fue su inteligencia lo que les permitió sobrevivir y dominar para bien y para mal a las demás especies. Por lo tanto, la paradoja está servida: si creamos máquinas intelectualmente superiores a nosotros mismos, ¿qué significa ser humano?

¿Somos un eslabón más en una evolución enloquecida que nadie controla? ¿De verdad solo somos eso, un eslabón evolutivo? ¿Es el ser humano un elemento prescindible que tarde o temprano se transformará en algo irreconocible o, incluso, desaparecerá?

Podemos ser más audaces en nuestro razonamiento y especular que sí, por mucho que nos cueste aceptarlo, la especie humana se extinguirá y dejará paso a seres artificiales que nos habrán superado. Es atrevido pensar así. Hablamos de un relevo en nuestra preeminencia, e incluso existencia. La nueva pregunta relevante toma un cariz romántico: ¿qué legado dejaremos los humanos a los siguientes eslabones evolutivos? Esta es una cuestión de fondo que requiere un poco de discusión previa.

Es fácil argumentar que la evolución humana nos ha legado un cuerpo plagado de defectos y dotado de la admirable virtud de autocorregirnos. ¿No es cierto? Nuestra anatomía no es una máquina perfecta, todo lo contrario, está llena de errores de diseño. Un ejemplo obvio es nuestro ojo. Su nervio óptico recoge la señal de la retina y la lleva al cerebro pasando por el interior del ojo. No parece muy astuto el haber desarrollado un nervio que recoge la señal luminosa por delante de las células de la retina y, en consecuencia, tapa la luz que le llega y crea un punto ciego. La evolución ha corregido en parte este error inicial y ha hecho que el nervio óptico sea transparente. Hubiera sido más sencillo tener un nervio que partiera por detrás del ojo, como en un pulpo. Cierto, se podría haber hecho mejor. Podríamos tener una vista más aguda, o podríamos nadar mejor, correr más rápido, saltar más alto. Podríamos ser seres perfectos, pero no lo somos.

El legado evolutivo que hemos recibido parece torpe a primera vista, pero en el fondo es más sutil: el cuerpo humano tiene capacidad de corrección. Si nos cortamos con un objeto afilado, la sangre coagula y la herida cicatriza. Si un virus nos invade, creamos anticuerpos y nos hacemos resistentes a él. Si muere una célula en nuestro brazo, nuestro organismo la repone, o al menos intenta tener una redundancia de células tan elevada que nuestro día a día es indiferente a esas catástrofes microscópicas. Nuestro apreciado cerebro es un magnífico ejemplo de codificación robusta. Sus circuitos realizan las mismas operaciones en paralelo muchas veces para que cualquier fallo de unas neuronas no afecte a las funciones básicas que nos mantienen con vida. Por ese motivo, envejecemos con la plena consciencia de cómo nuestro cuerpo se deteriora.

Se puede argumentar que la aportación de los humanos a la evolución es la inteligencia superior. Los animales sí tienen mecanismos básicos de inteligencia, pero no han descubierto la Teoría de Números, no han creado aviones supersónicos, no establecen razonamientos sofisticados como los humanos. Sí, los animales son listos y usan su inteligencia en su provecho, pero hay órdenes de magnitud entre su nivel de razonamiento y el nuestro. Sin duda, no todos los humanos son capaces de realizar profundas reflexiones, tampoco todas las tortugas son muy astutas. Por favor, nadie debe buscar ideas supremacistas. Eso sería un error. Es una constatación obvia que un recién nacido tiene el potencial de crear una sinfonía, de levantar un edificio, de escribir una novela, de organizar el tráfico de una ciudad o de demostrar el teorema de Fermat (como hizo Andrew Wiles en 1995).

Grandes pensadores han defendido que nuestra inteligencia es todavía más elevada cuando se equipa con ideales éticos. El hombre moderno debería ser más pacífico. En una mente avanzada el bien es obviamente ventajoso. ¿Por qué seguimos cometiendo atrocidades? No es una cuestión sencilla. Se puede argumentar que los humanos nos estamos pacificando. Todas las guerras, todos los genocidios no invalidan el hecho de que, milenio tras milenio, más y más humanos viven en paz. Es apasionante buscar la objetividad en un tema tan espinoso. Lo intentaremos más adelante. La gran pregunta sigue en pie: ¿qué significan los humanos en la historia de nuestro universo?

Podemos ser más humildes, sí, y aceptar que no somos más que el eslabón que nos ha tocado vivir en la historia de la evolución. Somos un estadio más en una sucesión de seres que se adaptan, cambian y se replican. Los humanos hemos logrado algo realmente notable, hemos creado máquinas pensantes. ¿Era este nuestro destino como especie? La nueva pregunta que nos podemos hacer no parece trivial: ¿qué legado podemos o queremos dejar al siguiente eslabón evolutivo, a las máquinas inteligentes?

¿Qué podemos legar a la inteligencia artificial que nos sobrepasará?

Una propuesta tautológica es legarle nuestra inteligencia.

Una propuesta menos obvia: leguemos valores éticos a las máquinas pensantes.

Inteligencias artificiales éticas. Ni más ni menos. De nosotros depende.

¿Podemos codificar valores morales en sistemas de inteligencia artificial? No solo podemos, sino que lo estamos haciendo sin debate previo. Ya existen sistemas inteligentes autónomos que deciden sobre vida y muerte. En un accidente que tenga un coche sin conductor humano, un algoritmo decidirá a quién arrollar. En un programa informático quedó fijada una decisión de vida o muerte. ¿Quién lo programó? ¿Por qué? Hay demasiado en juego para que los humanos no reflexionemos en profundidad sobre el siguiente salto evolutivo que vamos a propiciar.

Este libro propone una invitación a la reflexión sin prejuicios sobre máquinas inteligentes que necesariamente han de ser éticas si hemos de cohabitar con ellas. No podemos no pensar en ello. No podemos reducir todo a intereses puramente comerciales dejados en manos de grandes corporaciones. El debate ético sobre el control del genoma humano debe ser extendido inmediatamente al de la inteligencia artificial. ¿Qué decisiones programaremos en el código fuente de máquinas ultrapotentes y ultraconectadas? ¿Qué responsabilidades se derivan del posible error de un algoritmo mal programado o insuficientemente elaborado?

No es este un texto académico. Todo lo contrario. En ningún momento he intentado ser riguroso, fiel a la literatura precedente o ni siquiera precavido. Se trata de una charla abierta de esas a las que a todos nos gusta entregarnos con pasión. Nos acaloramos, tomamos ejemplos, los discutimos, inferimos altos principios y criterios demasiado dogmáticos, caemos en ideas contradictorias. De cada parte de la discusión salimos más confusos, casi desbordados. Buscamos referentes en el pensamiento que nos ha precedido. Siempre hubo una mente lúcida cuyas ideas toman fuerza justo en estos momentos. La charla vuelve a veces a los mismos dilemas de forma recurrente, porque así aprende el cerebro, de manera no lineal, sin dejar de cuestionar lo antes dicho para reafirmarnos o rebatir lo que ya no parece tan obvio. Seguimos disfrutando de la conversación sin sentir que avanzamos. Sin embargo, eso es falso. La reflexión compartida afina nuestro discurso. Por eso no he querido dejar nada de lado. No importa que nos equivoquemos o que nos adentremos en terrenos pantanosos. Podría haber evitado las ideas cercanas a la ciencia ficción, porque se me antojan superficiales. Pero creo que lo correcto es hablar de todo, con medida y criterio. Podríamos también refugiarnos en palabras técnicas, explicaciones tan correctas como asépticas, tal como hacen muchos informes serios sobre ética e inteligencia artificial, pero eso levanta barreras al pensamiento compartido. Imagino a adolescentes, a personas curiosas, a profesionales del mundo empresarial, ávidos de pensar hacia adelante y veo cómo todos estamos de acuerdo en hablar abiertamente de los problemas que se nos avecinan. La ética de la inteligencia artificial necesita de muchas voces: empresarios, obreros, escritores, científicos, gente mayor, gente joven, juristas, tecnólogos, artistas, periodistas, todos, porque todos sin excepción vamos a convivir con ella.

Este libro brinda una visión moderadamente positiva frente a la irrupción de la inteligencia artificial en todas sus formas. No es nada fácil defender una postura así. La mayoría de los libros de ensayo sobre tecnologías avanzadas y cambios inevitables de nuestras estructuras sociales abundan en el catastrofismo, en la crítica feroz y sesgada, en la falta de rigor sobre la presentación de datos reales. Esta corriente negativa en el discurso intelectual que se ha acentuado durante la segunda mitad del siglo XX ha sido analizada ya como un fenómeno que no es fácil de entender. Afortunadamente, ya son muchos los libros bien construidos que intentan hallar un balance ecuánime con respecto a los cambios tecnológicos que nos invaden. Me sumo a esta corriente minoritaria de pensamiento porque no creo que sea justo caer en ningún tipo de fanatismo, sea pesimista u optimista. Valorar cada opción detenidamente requiere tiempo, profundidad, toma de distancia, equilibrio. Nuestro mundo veloz, inmediato, ávido de juicios tajantes no se siente cómodo ante la reflexión sosegada. La tendencia actual impone que todo deba ser analizado y decidido de forma fulgurante, no tienen cabida las medias tintas. Es una pena. Los humanos han desarrollado la capacidad de apreciar la sutileza, el compromiso con la búsqueda de la verdad, la oposición amistosa. Demos una oportunidad a los valores de la ilustración.

Máquinas interconectadas, inteligencia artificial, ética, decisión, juicio, responsabilidad, nunca tantos conceptos han estado tan entrelazados de forma tan confusa. Navegamos sin brújula.

——————————

Autor: José Ignacio Latorre. Título: Ética para máquinas. Editorial: Ariel. Venta: Amazon, Fnac y Casa del Libro.