El planteamiento es simple: un vagón de tranvía baja descontrolado por una pendiente y en su trayecto hay cinco personas atadas que no pueden escapar de ninguna forma; lo único que puede salvarlas es accionar una palanca que provocará un cambio de vía del vagón provocando la muerte de una persona. ¿Qué debe hacer el responsable de activar el dispositivo? ¿Tiene más sentido salvar cinco vidas humanas que una sola? ¿Haría lo mismo si supiera que las cinco personas susceptibles de ser salvadas están condenadas por crímenes terribles? ¿Quién tiene autoridad para tomar decisiones de tal calibre? ¿Cuánto vale una vida humana?
El Dilema del Vagón (The Trolley Dilemma) 1 es muy popular en el ámbito de la filosofía y la ética porque plantea una situación extrema que confronta muchos de ámbitos más sensibles de nuestros valores. Tomar decisiones que afectan de forma definitiva la vida de otro ser humano nos coloca en un punto de extrema dificultad dónde se une todo lo aprendido a lo largo de la vida como seres individuales y, al mismo tiempo, todo aquello que la humanidad ha construido durante siglos en relación al valor de la vida en sí misma. En nuestros días, el planteamiento del Dilema del Vagón ha vivido de forma inesperada una explosión de popularidad vinculada a la revolución digital y a la inteligencia artificial.
Los coches autónomos (self driving cars) son una realidad que está pendiente sólo de la evolución tecnológica y las reformas legislativas para invadir las calles y autopistas de todo el mundo. Vehículos que, con las coordenadas de destino correspondientes, transportan a sus pasajeros desde un punto de inicio hasta un punto de destino siguiendo los datos aportados por miles de dispositivos conectados: satélites orbitales, sensores de proximidad, cámaras de tráfico o estaciones meteorológicas. Esta ingente cantidad de datos se procesa en unidades de tiempo impensables para un ser humano y dirige el comportamiento del coche ante cualquier eventualidad. Hasta aquí, todo va bien. Pero, ¿qué pasa en el momento en que esta pequeña inteligencia artificial tiene que tomar una decisión ante un peligro inminente? Es fácil imaginar la siguiente situación: el vehículo autónomo se ha quedado sin frenos y va a colisionar mortalmente, dentro del coche hay dos personas sentadas y en frente está cruzando una persona con un bebé. ¿Debe la inteligencia artificial decidir salvar la vida de los ocupantes de su vehículo? ¿O, contrariamente, debe intentar salvar la vida que potencialmente puede tener más futuro? ¿Qué pasa si las personas que cruzan la calle son dos jóvenes investigadores en medicina? ¿Pueden tener más valor que, por ejemplo, dos personas jubiladas de avanzada edad? El experimento The Moral Machine llevado a cabo por un grupo de investigación del MIT Media Lab 2 propone una mareante cantidad de variables diferentes que llegan todas al mismo punto: máquinas tomando decisiones vitales. El reto es especialmente pertinente porque la comunidad científica ya no se pregunta si va a llegar el día en que una máquina decida sobre el futuro de vidas humanas; la única pregunta es cuándo llegará ese día y si estaremos suficientemente preparados.
La literatura dio una respuesta precoz, brillante y creativa para gestionar las relaciones entre personas y máquinas inteligentes a través de las “Tres Leyes de la Robótica” de Isaac Asimov 3. La propuesta era tan sencilla como efectiva: i. ningún robot puede dañar a un ser humano por acción o por omisión; ii. los robots deben obedecer las ordenes de los seres humanos excepto si entran en conflicto con la primera ley; iii. los robots deben proteger su existencia mientras no entren en conflicto con la primera y segunda ley. Sin embargo, estas leyes entran en conflicto fatal cuando se plantean situaciones en las que todas las opciones las incumplen, como en el Dilema del Vagón. A menudo, las reacciones vinculadas a los instintos éticos y morales están marcadas por las circunstancias específicas de un momento concreto con millones de variables en juego.
Este es solo el principio de un recorrido complejo y arriesgado en la investigación sobre la ética y la inteligencia artificial. Siguiendo la estela de la obra de Asimov y de grandes creaciones de ciencia ficción literaria y audiovisual del siglo XX, la imagen más extendida para imaginar el futuro de la inteligencia artificial es la de la máquina con aspecto humanoide con capacidad para tomar sus propias decisiones. Robots. Maria 4. R2D2 y C3PO 5. Terminator 6. Cortocircuito 7. Tomoko 8. Nada más lejos de la realidad que ya estamos viviendo. Las fronteras tradicionales que delimitan los espacios comunicativos entre nosotros y nuestros interlocutores se van a fundir hasta desaparecer; y en el ámbito narrativo, el salto propuesto por André Bazin 9 ubicando los márgenes narrativos fuera del rectángulo en busca de la continuidad verdadera puede verse sobrepasado hasta límites inimaginables.
Nos dirigimos hacia un mundo dónde el rectángulo va a perder su largo reinado como recipiente de información. Llevamos siglos viviendo bajo el dominio de esa forma geométrica. Obras de arte rectangulares, libros rectangulares, carteles rectangulares, pantallas de cine rectangulares, ordenadores rectangulares, teléfonos móviles rectangulares. La mayoría de soportes de información textual, visual o audiovisual que utilizamos tienen la misma forma. La realidad virtual y, especialmente, la realidad aumentada va a cambiar en muy poco tiempo y de forma radical la forma en que visualizamos la información. Los soportes digitales de contenidos están preparados para rodearnos, rompiendo las barreras de los ángulos rectos para combinar-se con el mundo físico o trasladarnos a una nueva dimensionalidad del espacio-tiempo. Desde una simple previsión meteorológica, un reportaje de un conflicto bélico hasta una narración científica sobre los rincones del universo. En este nuevo universo digital, dónde las distancias no existen y la presencia física no es relevante, los robots metálicos con forma humana pasan a ser objetos de anticuario incluso antes de haber sido creados. Las inteligencias artificiales toman formas inesperadas en este futuro inminente, su forma, incluso, puede ser la no-forma.
Más allá del dominio de lo visual, el futuro se nos plantea también auditivo y vocal. La película Her 10 utilizaba la relación romántica de un hombre y su asistente de voz digital para visualizar crudamente el impacto de la humanización de los dispositivos de inteligencia artificial. No hace falta un ente ni un espacio físico para poder actuar de forma humana con una existencia digitalmente inteligente. Las aparentemente divertidas conversaciones de niños con asistentes virtuales como
Siri o Alexa, se transforman en algo realmente inquietante cuando nos damos cuenta que sus oídos con forma de micrófonos instalados en el teléfono móvil, en el televisor inteligente o en los asistentes de hogar digitales, están escuchando permanentemente nuestras conversaciones, filtrando los datos más relevantes, aprendiendo nuestros comportamientos y creando patrones para poder anticiparse a nuestros deseos y necesidades.
La inteligencia artificial va a influir la vida de los miles de millones de habitantes de planeta de forma decisiva durante las próximas décadas. Las máquinas pueden aprender, mejorar y tomar decisiones. Pero el código sobre el que ejecutan sus actividades estará, de momento, escrito por humanos. La sensibilidad de lo artístico puede jugar un papel especialmente relevante durante este inicio de la revolución de la inteligencia no humana. Los valores éticos y morales que definirán el comportamiento de esas nuevas inteligencias dependen de las personas que las crean, diseñan y programan, no de las máquinas en sí mismas. La capacidad de generar pensamiento crítico, empatía, tolerancia, respeto y, en definitiva, la humanidad de aquello no humano sólo será posible si los artistas de hoy aceptan el reto de visibilizar las preguntas que ningún otro ámbito de la sociedad puede atreverse a plantear.
1 Philippa Foot, The Problem of Abortion and the Doctrine of the Double Effect in Virtues and Vices (Oxford Review, 5, 1967.) 2 MIT Media Lab, The Moral Machine, http://moralmachine.mit.edu/ 3 Isaac Asimov, I, Robot (Gnome Press, 1940). 4 Fritz Lang, Metropolis (Universum Film AG, 1927). 5 George Lucas, Star Wars (Lucasfilm, 1977) 6 James Cameron, Terminator (Hemdale Film Corporation Tradueix, Pacific Western Productions Tradueix, 1984) 7 John Badham, Short Circuit (The Turman-Foster Company, 1986) 8 Liu Cixin, The Three-Body Problem; 三体 (Chongqin Press, 2008) 9 André Bazin, Qu’est-ce que le cinema? (Les Editions du Cerf, 1958) 10 Spike Jonze, Her (Annapurna Pictures, 2013)
Cultura digital 