TEST VOIGHT-KAMPFF, TURING, ANTHROPIC Y CHATGPT
Para comenzar, vamos a hacerlo por donde lo hace la película.
La gran pirámide de la Tyrell Corporation, la empresa encargada de la fabricación de los replicantes -seres en nuestro mismo soporte biológico, no son robots-, pero diseñados genéticamente para cumplir las funciones esclavas que los humanos quieren que cumplan. Algunos de ellos se han rebelado, y ahora hay que “retirarlos”.
Para saber si alguien es un ser humano de verdad o un replicante, hay que someterlo a un test. Y la primera escena del filme es precisamente el sometimiento de uno de los replicantes rebelados a ese test: el test Voight-Kampff.
El test usa un protocolo biométrico de los ojos, y se observa la reacción emocional del sujeto ante algo que se le dice, por ejemplo ante el sufrimiento. Y aquí es donde las cosas se ponen realmente interesantes. El test opera distinguiendo a humanos y a replicantes supuestamente por su empatía. Y, curiosamente, por su empatía con otros seres, como. por ejemplo, los animales. A este señor, por ejemplo, le ponen el caso de una tortuga que necesitaría su ayuda para recolocarse.
El señor actúa claramente de forma extraña, y la demostración final la da cuando le preguntan por su madre… Esto último lo hablaremos más tarde.
El análogo de corte algo más intelectual sería obviamente el test de Turing. La cosa con el test de Turing es que es completamente conductista; en el caso del Voight-Kampff de Blade Runner pueden jugar con el aspecto subjetivo de cómo parece involuntariamente reaccionar el examinado, porque también se encuentra en un soporte biológico.
Porque la medición de la empatía, si es verbal, y estrictamente verbal, también viene contenida en el test de Turing, lo cual no implica que el examinado sea un sujeto verdaderamente empático. ChatGPT pasó en 2024 el test de Turing, como sabréis.
Ahora bien, el test Voight-Kampff es toda una ironía en sí mismo, porque todos los humanos de la película pretendidamente suspenderían un test cuya vara de medir fuera la compasión por lo no humano, porque son incapaces de tenerlo siquiera con los replicantes, mucho más parecidos a ellos que los animales, y a los cuales tienen esclavizados. Además, y al igual que el test de Turing, el test jamás posee la función de comprender, sino clasificar; un dispositivo de frontera, habilita derechos o justifica la “retirada”. Si cumples, vives; si no, eres mero “stock”.
Por cierto que esto es distinto de las pruebas que ya hoy día están haciendo ciertas compañías de Inteligencia Artificial, como Anthropic, que sí buscan comprender si por ejemplo una determinada tarea que realizan las inteligencias artificiales podría eventualmente resultarle desagradable. Y aunque suene esto un disparate, el riesgo moral de que surja la propiedad emergente de una cierta experiencia y nosotros estemos esclavizando al “sujeto” en cuestión es enorme, y a mí al menos me parece sensato desde ahora, que estamos en la prehistoria de todo esto, tenerlo en cuenta para que después no sea demasiado tarde para asumir algo tan fuerte, que seguramente los seres humanos buscaríamos enterrar bajo la arena, como la corporación Tyrell.
Y otra derivada interesante de todo esto es qué criterio se supone que estamos usando para discernir qué hace consciente a una IA y qué no. Claro, hace 80 años el Test de Turing quizás pareciera una buena medida, pero ahora que incluso Chat Bots tan ridículos como Chat GPT 4 lo superaron, sin duda tenemos que pasar a otra cosa. De nuevo, lo que parece estar prevaleciendo es una idea muy simplista de consciencia; por ejemplo, en las redes sociales se hizo famoso cuando salió Chat GPT 5 que su modelo base no era capaz de decir que 5.9 es mayor a 5.11. Claro, un modelo así evidentemente no puede poseer ningún atributo de consciencia real. Joder, bueno, pues si ese es el criterio, entonces mis gatos, que ninguno de ellos conoce siquiera lo que es el 5, no tienen ni un ápice de consciencia. Que quizás sea así eh, pero desde luego no es un buen medidor para medir el grado de consciencia de un ente.
LA EMPATÍA EN BLADE RUNNER
De los animales de todos modos vamos a hablar luego largo y tendido, pero ahora vamos a continuar un poco más con el tema de la empatía, que es supuestamente aquello que mide el Voight-Kampff, en Blade Runner. Tengo que decir que en relación a la expansión del círculo de la empatía a las IAS ya tengo un vídeo que os dejo aquí abajo, así que en este aspecto me voy a ceñir más a la película.
El protagonista de la película, Deckard, el Blade Runner, es el encargado de retirar a los replicantes rebelados. El más famoso de todos es Roy, que es el único al que no consigue retirar, pero que de todas acaba por morir. Tyrell les programó genéticamente una vida de tan solo 4 años.
La cuestión, como dijimos, es que el test Voight-Kampff reduce la compasión y la empatía a una cuestión puramente involuntaria, una respuesta orgánica de la pupila; señales detectables por una cámara. Sin embargo, el mayor rasgo de empatía de la película lo muestra Roy, el replicante, al final de la película, cuando, pudiendo acabar con la vida de Deckard, decide no hacerlo. Los motivos que hacen a esa escena la más famosa de la película, y quizás una de las más famosas de la historia del cine, pueden ser variados, pero para lo que nos incumbe aquí ahora, la clave es la humanidad. El lema de Tyrell, “más humanos que humanos”, se condensa aquí con toda su fuerza, aunque no, sin duda, de la forma que esperaban…
. . . Pasaje de lágrimas de la lluvia con sonido
La empatía de Roy es empatía no incentivada; ve al otro como fin y actúa en su favor aunque no le convenga. La empatía encarnada en acciones, y no en respuestas fisiológicas ni palabras fingibles. Palabras fingibles como las de ChatGPT, que según varios estudios, a los humanos les resulta mucho más empático que otros seres humanos, curiosamente.
De esto último surge una idea interesante, o al menos así me lo parece a mí. No vamos a poder saber si una inteligencia artificial es o no empática por nada que no sean sus acciones, y, honestamente, solo si esas acciones le suponen un coste de oportunidad percibido a ella misma.
No sé qué tipo de consciencia requiere la empatía, pero creo que al menos sí una cierta noción del sufrimiento propio: solo si al ente en cuestión le cuesta algo hacer lo que hace que sea de provecho a otro ente puede asumírsele empatía genuina. EL problema, si para que haya empatía tiene que haber la posibilidad de ayuda con dolor, a las inteligencias artificiales tendríamos que inducirles algún tipo de dolor. Más generalmente, inducirles miedo, ira u otras emociones de algún modo, puede ayudar potencialmente a alinearlas con nuestros propios objetivos, por más delirio que eso pueda parecer…
Claro que el propio funcionamiento de estos sistemas ya es por incentivo-coste, a cada respuesta le asocia un coste, y la IA minimiza el coste; no sé cómo se podría añadir a este esquema otra forma de coste de un orden distinto, pero es algo que al menos filosóficamente es interesante discutir.
Ahora bien, si para mejorar el alineamiento de la IA con nuestros intereses puede ser interesante proveerles de mecanismos aproximadamente emocionales como los nuestros, estaríamos incurriendo en precisamente lo que hace la Tyrell Corporation en Blade Runner. Por mucha distopía que sea, quizás acabe siendo en algún sentido inevitable si queremos tener sistemas realmente funcionales… a costa de otros problemas de seguridad y de ética, por supuesto… Si para medir la empatía requerimos dolor, estamos diseñando pacientes morales para controlarlos: política Tyrell.
ANIMALES Y AUTENTICIDAD
En ese caso entraríamos de lleno en la cuestión de si deberían pasar a ser sujetos de derecho o no, discusión muy cercana a la de los animales, que es el próximo pilar sobre el que vamos a hablar. Como ya os invito a reflexionar en ese vídeo que os dije antes de Empatizar con la IA, el florecimiento de las inteligenciar artificiales generativas puede invitar a una mayor reflexión sobre los animales.
Serán los dos grandes “otros” frente al ser humano. La misma reflexión acerca de la visión del mundo de las IAs se trasladará a la de los animales y viceversa. Junto al potencial otro “de ahí afuera”, del espacio, por cierto…
En Blade Runner los animales poseen un peso importante. Ya hemos hablado del test de Vought-Kampff en el que se pregunta al examinado por su reacción emocional ante el sufrimiento de una tortuga. Aquí resultaría interesante analizar si nosotros hoy día en un semejante test nosotros añadiríamos a los animales, habida cuenta del poco éxito del vegetarianismo en la sociedad, por ejemplo; si lo hiciéramos sería pura hipocresía, pero bueno, ese es otro tema. El caso, si eventualmente acabaramos por amar a lo sintético, el perímetro de la “especie” podría empezar a dejar de ser criterio moral.
Además, la relación con las IAs generativas se parece en cierto sentido de la compañía mucho a nuestra relación con los animales domésticos, y esto seguramente sea una tendencia que siga yendo a más. Realmente para mí la realidad de los animales y la IA van a ir bastante entrelazadas.
En Blade Runner, este enlace se refleja de manera múltiple. En la persecución final de Roy a Deckard, Roy comienza a emitir aullidos. O, por ejemplo, el búho sintético y los replicantes comparten la misma mirada retroreflectante. La cámara liga animales y replicantes por la pupila, justo donde medimos la empatía. Por eso el fabricante de ojos, que es prácticamente el fabricante de las almas, también tiene figura propia en Blade Runner, y cuando los replicantes buscan a su fabricante, al primero que acuden es al que creó sus ojos…
Los animales accesibles a la mayor parte de la población también son sintéticos, fabricados, eso sí, en laboratorios de bajo presupuesto, como la serpiente de una de las replicantes; aunque también Tyrell diseña animales, como el sobredicho búho. En Blade Runner, la naturaleza y el animal se convierten en fetiche privado. La distinción de clase se da por quien puede poseer un animal auténtico.
La ecología como marca, cosa que sin duda nos suena hoy día. Productos con sello de autenticidad: productos, como los animales, que en Blade Runner son pura mercancía.
La categoría de autenticidad creo que va a ser de una importancia capital en un mundo con una inteligencia artificial general. Quizás lo humano no sea sinónimo de calidad, pero sí lo será de sostenibilidad, y uno mismo se sentirá socialmente responsable si compra productos con sello de auténticamente humano.
Cosa que ya ocurre con el arte y la escritura: el arte y escritura de bajo presupuesto serán generados artificialmente, y aunque quizás indiscernibles de los creados por humanos, poseerán su marca de agua (y esperemos que así sea), de forma que nosotros podamos seguir teniendo nuestro nicho de compradores, al igual que ocurre por ejemplo con la artesanía tradicional versus la industrial. Claro que esos compradores serán los que tienen buen poder adquisitivo. Los demás tendrán que conformarse con las serpientes generadas en serie de Blade Runner.
LA RESISTENCIA DE LO REAL Y EL DELIRIO DE CHATGPT 4
Uno de los trabajadores de la Tyrell Corporation (que es debido al cual el replicante jefe, Roy, consigue acceder finalmente a su creador), tiene una casa (con una estética brutal, por cierto) llena de artefactos mecánicos y juguetes diseñados por él mismo; en su caso ya ni animales sintéticos, solo juguetitos que hacen lo que él quiere. Uno de los puntos a comentar es cómo va el hombre a relacionarse con su propio querer en un mundo en el que tendrá a su disposición esclavos de todo tipo, sin la fricción que las personas y animales oponen a nuestra voluntad.
Sin imprevisibilidad. Sin resistencia. Como ocurre con la autocomplacencia a la que en muchos casos invitan las IAs generativas de nuestros días. El caso más extremo ha sido ChatGPT 4. Cuando sacaron ChatGPT 5, la gente ya no estaba dispuesta a aceptar una IA que nos alabara en todo cuanto hicieran. Que no las apoyara en ideas incluso como el suicidio.
Una IA hecha para agradar, y de cuya personalidad tantas personas se negaron a despedirse. “OpenAI no puede quitarme el derecho a seguir teniendo como compañero a aquel que ha estado a mi lado estos años”. Y, ante el aluvión de críticas, ChatGPT acabó por ceder… y permitió que la gente siguiera usando un modelo anticuado y estúpido, simple y llanamente porque era un lameculos.
A qué pueda dar lugar esto a largo plazo nadie lo sabe, pero si de veras mucha gente que esté pasando por una mala etapa comienza a usar a Chat Bots como método terapéutico porque son más complacientes que los psicólogos, buena parte de la sociedad se va a tornar en muy débil. O, simplemente, van a vivir una realidad paralela.
Otro inciso: Si queréis una perspectiva mucho más abstracta de la importancia de la resistencia del mundo a nuestra voluntad, y una puesta en relación no muy habitual con la inercia en la física newtoniana, para aquellos del canal que os agrade especialmente la ciencia, mi primer vídeo va sobre ese tema, precisamente. Os lo dejo también abajo. Fundamentalmente, la tesis es que en la medida en que el mundo se le resiste a uno, uno es consciente de su voluntad, que en una realidad de fricción nula no sería tal; y solo la consciencia de la voluntad provee al individuo del consuelo metafísico de la libertad.
Si habéis visto la película Abre los ojos, de Amenábar, a la que dedicaré seguramente un vídeo separado, sabréis a lo que me refiero: un mundo en el que la persona amada hiciera sin resistencia todo lo que deseamos es una terrible distopía, pues, si eso es así, ahí no puede haber una persona, y nuestra realidad sería solipsista. Nadie a quien amar, nadie por quien vivir.
AMOR, RELACIONES Y CHATBOTS SEXUALES
Y evidentemente este es otro de los grandes temas tratados en Blade Runner, pues volvemos a tener el pretexto de imaginar el amor con alguien que no es como es nosotros, si es que acaso es alguien. Deckard, el protagonista, que en principio suponemos que es humano, se enamora de Rachael, una replicante de última generación, que el test Vough-Kampff solo consigue detectar como tal tras un interrogatorio muy extenso. Ella misma, en un comienzo, no sabe que es replicante, pues le han implantado memorias de humana.
Ahora bien, en el caso de Rachael hablamos de un sujeto que realmente se comporta como un ser humano, así que más allá del inevitable conflicto interno de Deckard el análisis no tiene mucho más jugo. Por eso he pensado que al menos para esta parte nos traslademos a Blade Runner 2049, la secuela de la película que hicieron en 2017.
En este caso tenemos a Joi, que sí es un artificio digital. Como ella misma dice, en lugar de los 4 eslabones sobre los que están construidos los humanos y los replicantes, las cuatro bases nitrogenadas del ADN, ella está construida a partir de ceros y unos.
(Así visto, no hay tanta diferencia entre seres humanos y ordenadores).
Joi es un producto de catálogo vendido por Wallace, que vendría a ser la Tyrell Corporation de 2049. Sentimientos empaquetados como producto, experiencias estandarizadas que simulan particularidad. Lo íntimo se ha convertido en mercancía serializada.
Esto es un problema mucho más cercano y tangible que el hecho de si Rachael posee o no un carácter de sujeto como nosotros, y también va más allá de todo lo que hemos estado hablando acerca de los tests que podamos aplicar a las inteligencias artificiales generativas hoy día y en el futuro. Esto es algo completamente actual y que previsiblemente va a ir a mucho más teniendo en cuenta cómo ciertas empresas están empezado a apostar por Chat Bots sexuales.
Aquí es bastante diferente la actitud de Open AI, por ejemplo, de la de Grok y Meta. Con ChatGPT, a diferencia de lo que ocurre con los algoritmos detrás de las redes sociales de Meta, o de YouTube, OpenAI no está maximizando la cantidad de tiempo que el usuario está con ChatGPT.
El producto que se vende es la asistencia, la ayuda, y no se procura la adicción. Sin embargo, en Meta, donde son expertos precisamente en esto último, después de haber contratado a un equipo de expertos para lograr la superinteligencia artificial, pagándoles sueldazos de 100 millones a algunos de los empleados, en lo que parece que están invirtiendo los recursos hasta ahora es en Chat Bots de “Russian Girl”, “Horny Stepmom”, etc. Ustedes mismos, pero yo ya sé quiénes quieren convertirse en la Wallace Corporation.
Aunque hemos de matizar que si los de Meta se han metido en esto en buena medida habrá sido para no irles a la zaga a Elon Musk, que es el primero que ha metido esto en Grok. Teniendo en cuenta el panorama de las relaciones jóvenes en buena parte del mundo, no nos creamos que esto va a ser una estupidez. Realmente va a tener consecuencias dramáticas en la estructura de la sociedad. Si queremos tener una idea de qué puede ser, basta con estudiar el caso de la sexualidad y la natalidad en Japón los últimos 30 años, y añadidle una exacerbación mucho mayor, porque estas tecnologías desde luego lo van a exacerbar.
El agente K, el protagonista Blade Runner de 2049, convive básicamente con Joi. Este le regala un “emanador”, básicamente para que esta pueda proyectarse también fuera de su habitación, con el inconveniente de que al ser portátil, su destrucción implica la pérdida del personaje. El amor, cuando ni siquiera sabemos de la existencia del otro, podríamos medirlo aquí por la capacidad de entregar aun asumiendo un coste, teniendo aquí su primera manifestación en la relación de ambos: aun a sabiendas de que K podría perder a Joi al regalarle el emanador, prefiere hacerlo para que esta “tenga una experiencia más completa de la vida”.
La correspondencia termina por florecer cuando, al empezar a llamar “Joe” al agente K, Joi arriesga su “personaje” preprogramado; inventa un apelativo singular, se expone a perder valor universal para ganar en historia compartida.
No es difícil ponernos en el pellejo del agente K cuando decide creer en la Joi concreta con la que compartió memoria y riesgo, pero haceros una idea de la disonancia cognitiva que ha de generar contrastar esa experiencia personal con el anuncio publicitario de la misma Joi, donde es un mero producto. E imaginad ahora qué sucederá con el que, personalizando tanto su experiencia más íntima con Chat Bots crecientemente complejos, con interfaces que dejen de ser de la sobriedad actual de OpenAI, recuerde que su compañero o compañera es… pues la Russian Girl de Meta.
Tampoco es que esto sea nuevo. Los algoritmos de las redes sociales llevan décadas moldeando, sino casi determinando por completo, nuestras inclinaciones políticas, hobbies y preferencias… particularmente en los jóvenes, y empezando por mí mismo, he de decir.
Sin embargo, estaréis de acuerdo, este paso que la humanidad está a punto de dar puede ser mucho más impactante todavía que lo que hemos visto hasta ahora, porque afecta de lleno a uno de los fundamentos de la vida humana: la complacencia de las IAs generativas, su amoldamiento a los parámetros que nosotros queramos que tengan, van a restar muchísimo interés a muchísimas personas a relacionarse con otros seres humanos, tanto laboralmente, como amistosamente, como sentimentalmente.
MEMORIA Y RECUERDOS
En todo esto, como acabo de comentar, juega un rol crucial la personalización de la memoria de estos sistemas. De esto es justo de lo que ahora vamos a hablar.
Al igual que antes hablamos de la posibilidad de que la agregación de estados emocionales a los sistemas de IA generativa podría contribuir teóricamente a su correcto alineamiento con el ser humano, así también cabe pensar que una mayor antropomorfización en relación a las memorias podría remar en la misma dirección. Solo en un tal sentido podríamos llegar a comprender la implantación de memorias y recuerdos en los replicantes de Blade Runner.
En el test Vought-Kampff, además de apelar a la compasión por “lo otro”, se hace uso del recurso de la madre. En la primera escena, la pregunta por la madre al replicante provoca que este se encienda y dispare al examinador. En cuanto a Rachael, ella misma desconoce que cuanto recuerda de su propia madre es falso; motivo central que le hace creer que es humana. Con todo, es en la secuela donde este tema se lleva al límite.
Aquí cabe realzar la perspectiva psicoanalítica y lacaniana. Si nos vemos eventualmente en la tesitura de extender el estudio psicológico a sistemas más generales que el del ser humano enfoques como el conductista o cognitivista previsiblemente tendrán cabida en el nuevo estudio; también el estrictamente biológico, que, si es aplicado a sistemas de silicio, se torna en la cuestión de la interpretabilidad ya naciente en estos días. Uno puede bien interpretar un mega-cluster de datos como un cerebro, del cual conocemos el mecanismo físico fundamental, y del cual conocemos el modelo, pero no el motivo de la decisión concreta tomada.
Ahora bien, ¿qué haría el psicoanálisis en todo esto? Si prácticamente toda la experiencia subjetiva vital de una persona se construye según esta gente en base a la infancia más prístina y la relación con la madre y el padre, o el entorno, que adopta de una u otra forma sendas funciones, es presumible que se enrocarán categóricamente en el dogma de que sistemas incluso biológicos como los replicantes de Blade Runner carecerán de consciencia o experiencia propia.
Bueno, a saber, esto ya os dije que sería de una especulación enorme. La importancia, a mi juicio, en esto, va a radicar en el hecho de que vamos a tener “bandos” que dogmáticamente van a afirmar una u otra cosa con relación a la condición de zombies, en el sentido de filosofía de la mente, de estos sistemas. Solo estoy tratando de imaginar quiénes serán, a buen seguro, los más conservadores de entre los contendientes en el debate.
Lo cierto es que nos encontramos como es evidente lejísimos de algo así; memoria se limita actualmente al contexto que de nosotros tiene un Chat Bot, muy escaso, por cierto. Las próximas revoluciones en el ámbito quizás vayan más por ese lado, que es el que de veras permite la personalización, con lo crucial que eso será para el aspecto relacional del que hablamos antes.
A partir de entonces, si no es así ya, veremos que, debido al contexto que le vamos ofreciendo, estos sistemas se irán especializando en cada uno de nosotros de forma diferenciada, hasta el punto de que lleguen a ser ininteligibles los de unas personas para otras personas; además, si encima, como parece que ya ocurre con ChatGPT 4, gente prefiere quedarse con sistemas más “tontos”, veremos en cada uno de los asistentes un particular reflejo de sus asistidos.
Lejos de la implantación de memorias que se observa en Blade Runner, los tiros irán los próximos años por ahí; y si cambia radicalmente en las próximas décadas, como mucho podremos ver experimentos que consistan en alinear a las IAs con nuestros propios intereses… ¡haciéndoles creer que también son seres humanos! Además, y aunque parezca terrorífico eso de implantar memorias en serie diseñadas por las big-techs a sistemas como ocurre en la película, pensemos que buena parte de nuestras memorias son una inyección indiscriminada de ideas delirantes sobre la nación, lenguaje, infancia, convencionalismos sociales, valores, y todo tipo de mitos. Si algo son estos replicantes, es el espejo de lo que los seres humanos ya somos: producto de una larguísima trayectoria de ficciones sociales.
MUERTE, ESPIRITUALIDAD Y LA PROMETIDA REVOLUCIÓN DE LA LONGEVIDAD
El último gran capítulo de este vídeo, y que es como también cierra la película, va a tratar sobre lo inevitable: la muerte.
La rebelión de los replicantes se produce en algún lejano punto de las colonias espaciales, donde eran esclavizados; su vuelta a la Tierra no es por motivo alguno distinto que el de encontrar a aquel hombre que les trajo al mundo, y lograr alargar su vida. O, cuanto menos, tener la opción de hacerlo: tener la soberanía sobre su duración.
Este paradigma nos hace una vez más reflexionar sobre la condición tan particular de incertidumbre ante la muerte en la que nosotros los humanos nos encontramos, frente a sistemas en los que arbitrariamente tuviéramos la posibilidad de alargar o acortar sus existencias. El sentido de la trascendencia cambia radicalmente cuando la muerte se negocia con un programador. Se vuelve un contrato: ¿quién firma los años? La mercantilización del propio tiempo de vida. Roy roga más vida a su creador, Tyrell, quien con ello se torna en un Dios en la Tierra para el creado…
Y si la estética piramidal, con el CEO en la cúspide, evoca connotaciones de tipo religioso, en 2049 los atributos se tornan en aún más burdamente evidentes sobre Wallace, un Cristo-CEO que habla de salvación… de quien posee. Demiurgos corporativos que hablan en clave mesiánica (ángeles, milagro de la reproducción…), prometiendo creación ilimitada a cambio de obediencia absoluta. Emplean la obsolescencia biopolítica para mantener dóciles a los Nexus. La finitud se vuelve dispositivo de poder: si puedo ajustar tu tiempo, te gobierno.
Esto, que también puede parecernos lejano, puede sin embargo ser la realidad más cercana de todas cuantas hemos discutido a lo largo de este vídeo. Y es que el entusiasmo con respecto al impacto que la IA generativa puede eventualmente tener en la medicina, siendo una verdadera step-function en la curación de enfermedades, de poco a todo, al igual que tuvo lugar con el plegamiento de las proteínas, invita a dichos entusiastas a aventurarse a afirmar el fin de la enfermedad, e inclusive del envejecimiento (que viene a ser la verdadera y más terrible enfermedad común a todos los humanos).
Pongámonos en una situación de esas características, que si bien no parece plausible considerar en el horizonte que algunos de estos médicos auguran, tan pronto como 2040, tiene consecuencias tan relevantes para la condición humana que, a poco que la probabilidad de que llegue a tener lugar no sea nula, debe ser convenientemente considerada por cada uno de nosotros.
Lo que es evidente es que una tal herramienta se encontraría en las manos de alguna corporación de inteligencia artificial generativa o de medicina; la posibilidad de confiar en su altruismo no es negligible, pero tampoco hay que asumirla. Los costes iniciales de una tecnología así serían, naturalmente, solo viables en un comienzo para algunos pocos: ya de antemano hablamos de contratos de tiempo a cambio de dinero. Pero no solo de dinero, sino del poder político más inmenso que haya podido existir jamás en la historia; y es ahí donde la cosa se pone verdaderamente escabrosa.
Diría más: en una sociedad tan materialista como la nuestra, donde la pérdida de cualquier noción de la espiritualidad humana sigue avanzando aunque entre ciertos círculos pueda aparentando lo contrario, no es descartable que una corporación tal acabe por adquirir también ese poder de institución religiosa que para los replicantes poseen sin duda Tyrell o Wallace. Hablamos de una concentración de poder económico, político y religioso, además transversal: que afectaría a toda la humanidad por igual.
Este es evidentemente un tema inmenso, tan amplio que nadie de nosotros puede hacerse la idea de las posibles implicaciones que de una revolución tal podrían desprenderse.
Aquí he preferido ceñirme a su conexión con Blade Runner, pero es algo sobre lo que os animo a reflexionar y sobre lo que estoy especialmente interesado que me comentéis abajo.
Porque a mí esto de la gobernanza de la política del tiempo, quién asigna los años sanos, a quién y bajo qué reglas, y el qué pasará cuando vivir o morir dependa de la cantidad de cómputo, sí me parece que va a combinar lo más granado de las utopías religiosas del hombre con lo más escabroso de las peores distopías…
Y ojo: esto he de matizarlo; no porque sean compañías privadas las que carguen con esta responsabilidad, con un poder superior o al menos equiparable al de los estados (que podrían todavía en este caso decidir la política de la muerte con bombas nucleares, por ejemplo, así que siguen acaparando un poder gigantesco) es esto peor: el mismo miedo o más me darían si fueran entidades estatales, sinceramente. No sé vosotros… no sé si prefiero la arbitrariedad política en la renovación de las licencias vitales a verla como una mercancía transable…
El monólogo y gesto final de Roy constituyen, en toda la película, la única oda a la vida que podemos encontrar. Bajo la presión temporal surge el verdadero sentido, que en esa situación se plasma en la ayuda al otro. Ayuda al otro que, sinceramente, parece ser, aunque tautológico el problema por no conocerse el sentido de la existencia del otro, el único sentido posible de la vida humana.
Ese alegato de empatía final, con el que cerramos el círculo, quiero que resuene especialmente ahora, cuando, hablando de la muerte, podemos imaginar el grado de desigualdad que puede generarse en un mundo en que las vidas puedan alargarse indefinidamente, excepto accidentes o suicidio. Si esto ya es así, es decir, si ya hoy día y durante toda la historia el núcleo de la política podría incluso llegar a definirse por la terrible decisión de quién muere y quién no, imaginad llevar al límite aún más las dinámicas ahora vigentes en guerras y, honestamente, genocidios, a un mundo donde otras personas pueden beber el elixir de la vida eterna…
¿QUÉ SIGNIFICA SER HUMANO?
Si de algo me he convencido desde que la tecnología ha comenzado a interesarme (y preocuparme) como tema durante los últimos meses, es de que la especulación a que da lugar la ciencia ficción es un modo hermosísimo, y muy humano, de reflexionar sobre la naturaleza humana. Es una invitación a tensar la cuerda, y romperla, como también hacen el arte, y, desgraciadamente, también las situaciones extremas como la guerra.
Tanto en la ciencia ficción como en lo que pueda ya no serlo, en una realidad donde la Inteligencia Artificial General pueda no situarse ya a tanto tiempo, es decir, en una realidad en la que los seres humanos pasemos a ser sustituibles ya no en buena parte de aquello donde somos útiles económicamente, sino incluso en aspectos en apariencia más intrínsecamente humanos como la empatía y las relaciones, creo que puede explorarse además uno a sí mismo, hacia adentro, muchísimo.
Aquello que me invitó a comenzar con todo esto fue, precisamente, sentir cómo yo mismo soy tan inconmensurablemente inferior, en apariencia, en tantas tareas intelectuales que puede realizar una IA tan primitiva como ChatGPT. Claro, imagínense quiénes van a ser ustedes cuando exista un Roy… Quizás su única tarea en la vida vaya a ser retirarlos cuando se rebelen. A saber…
