¿Tendremos que empatizar con la IA?

Introducción

En un mundo donde todavía la empatía que los seres humanos sentimos con respecto a los otros seres humanos sigue siendo una rareza, como atestiguan las múltiples guerras que a lo largo y ancho del mundo siguen existiendo, siguen dándose. En un mundo donde el nacionalismo, el sectarismo religioso, ideológico, de todo tipo, siguen dividiendo de forma masiva, no permitiendo al resto de seres humanos que no pertenecen a un mismo colectivo entrar a ese círculo de la empatía. En un mundo donde tampoco los animales han entrado en ese círculo de la empatía, más que en casos quizás de ciertos animales domésticos, ¿cómo es posible que una persona en su sano juicio, que no esté delirando completamente, se pueda preguntar acerca de si debemos incluir o no en ese círculo de la empatía moral a las inteligencias artificiales?

Que al fin y al cabo son modelos matemáticos basados en hardware, no tiene nada que ver con un sustrato biológico y, por tanto, parece un disparate hacer eso cuando ni siquiera hemos, ya digo, asumido aumentar tal círculo hacia seres que parece mucho más razonable ampliar dicho círculo.

Sin embargo, y a diferencia de con el resto de animales, que no con los humanos, lo cual sigue siendo un disparate, hay ciertos países, al menos en el mundo, en los cuales se ha avanzado, desde luego, un trecho con respecto a escasamente ochenta años.

El caso de los animales es por desgracia menos relevante

Con respecto a los animales, no se ha conseguido esto, pero quizás las implicaciones no sean demasiado relevantes, dado que estos seres pueden estar sufriendo más de la cuenta, pero realmente si nadie puede comprobar realmente su estatus de percepción de la realidad, su grado de consciencia, y no tiene un impacto lo que ellos puedan hacer contra nosotros, no va a haber un coaligamiento conspiranoico de los animales en contra de la humanidad para exterminarnos.

El hecho de incluirnos o no en este círculo de empatía puede tener no demasiado sentido, más que filosófico, de interés o sentimental, emocional, pero no, desde luego, pragmático, necesariamente. Máxime cuando nos alimentamos de ellos todavía, prácticamente la mayoría de los seres humanos siguen siendo omnívoros, no comen solamente vegetales.

Bien, ¿cómo podemos, sin embargo, estar considerando a las inteligencias artificiales potenciales sujetos de derecho? Pues digo que es diferente del caso de los animales.

Con las IAs el problema no es solo filosófico

Porque esto sí puede ser un problema de carácter muy pragmático, no únicamente filosófico, no únicamente que entrañe cuestiones concernientes a qué definimos como consciencia, inteligencia, el tema de la intuición de las inteligencias artificiales, sobre la que ya hemos hablado en un vídeo anterior. Digo, puede también tener un carácter práctico tremendo, debido al impacto que socialmente estas inteligencias, estos sistemas, pueden tener en nuestra sociedad, inclusive en aquellas que ni siquiera respetan la vida y el derecho del resto de seres humanos.

Incluso en esas sociedades, quizás, a pesar de que entre ellos no puedan soportarse, no puedan considerar ningún tipo de empatía con respecto al otro bando, quizás incluso en esas sociedades vaya a ser necesario, ante la asunción pragmática, asumir, valga la redundancia, que estos sistemas poseen algún tipo de consciencia o algún tipo de, desde luego, intuición, inteligencia, en algún sentido, para poder integrarlos en un sistema legislativo donde va a ser fundamental colocarlos en una situación concreta y no difusa como todavía estamos. Estamos, al fin y al cabo, a las puertas.

Las IAs son más convincentes que los humanos

Y esto ya, como digo, está siendo empezado a debatir por figuras interesantes y por empresas que precisamente desarrollan estos sistemas de inteligencia artificial, como por ejemplo Anthropic, que han llegado a la discusión pública de forma tibia, sobre todo con titulares amarillistas del estilo de: «Esta inteligencia artificial ChatGPT parece que pudiera ser consciente porque dice en un determinado mensaje que tiene sentimientos o lo que sea», cosa que no hace, pero a lo mejor Claude, la IA de Anthropic, sí que puede hacerlo.

Más allá de estas tonterías, porque realmente lo que diga la inteligencia artificial ya no es un criterio, no lo va a ser, puesto que incluso desde mayo de 2024, ChatGPT-4, modelo ya, por cierto, antiguo, superó el test de Turing. Tampoco necesariamente es un hito tan sorprendente, a pesar de que, desde luego, hace algunas décadas sí que lo habría sido.

Digo que en una situación en la cual estos sistemas son tan convincentes, ya no tenemos necesariamente, aunque a pesar de que todavía se encuentran en la prehistoria, yo creo que esto va a avanzar muchísimo más, y que esos sistemas no necesariamente son diferenciables de un ser humano si los colocamos a nivel de mensajes de texto y de cómo nos convencen, cosa que también en un estudio que hicieron en la Universidad de Zúrich, este año, 2025, se metieron en Reddit, en un foro de convénceme sobre algo, algún tema escabroso del cual yo tengo una opinión distinta.

Se metieron falseando un perfil humano con una inteligencia artificial, pero resultó el estudio concluir que las inteligencias artificiales eran tres veces más convincentes que los seres humanos en esos mismos foros. Es decir, estos sistemas, por su construcción, han sido capaces de lograr persuadirnos incluso más que cualquier otro ser humano, por tendencia, por media.

Entonces, lo que digan estos sistemas acerca de si son o no conscientes lo podemos humanizar en demasía únicamente porque están construidos para convencernos de sus palabras, sin que eso realmente tenga ningún impacto. Entonces, no estamos hablando

Solipsismo y zombies en filosofía de la mente

Del hecho de que una inteligencia artificial hable de los sentimientos que tiene, no se sigue que tenga sentimientos, ni de coña, obviamente. Ahora bien, el mismo motivo por el cual asumimos que otra persona es un sujeto de derecho, tiene un grado de conciencia análogo al nuestro o parecido. El mismo motivo, en filosofía de la mente hablamos de zombi como el sujeto, aquel sujeto que parece ser un sujeto consciente igual que nosotros, pero sin embargo no lo está, como si fuera un NPC de un videojuego. En realidad, nosotros no somos capaces de saber si el otro es o no un zombi. Yo no tengo forma de saber si usted realmente es consciente de su vida y no si es una ilusión de mi mente, igual que lo puede ser en un sueño el sujeto con el que uno esté hablando, que puede parecer muy humano y en el sueño nos parece muy humano, de hecho.

Entonces, al igual que asumimos a priori, en base a un puro pragmatismo, el hecho de si la otra persona es o no consciente de sí misma, porque si no asumiéramos tal conciencia de sí misma, entonces empezaríamos seguramente a actuar de forma muy distinta. Yo el ejemplo que siempre he puesto, y sobre esto he escrito varios textos: imaginemos cómo sería, situación que, por cierto, explora la película Abre los ojos, de Amenábar, aquí en España, imaginemos que amamos a una persona, nos convencemos de que amamos a una persona que en realidad no tiene consciencia, igual que si estamos en un sueño y estamos amando a una persona que no existe más que en nuestra propia fantasía, en nuestra propia imaginación. La forma de relacionarnos con esa persona ante la noticia de que tal ha sido en realidad su foro interno una nulidad absoluta, pues puede llevarnos, evidentemente, por ejemplo, al suicidio.

Es decir, es muy importante asumir que el resto de personas, no asumir la pose solipsista en virtud de la cual somos los únicos que existimos, porque los demás parecen ser iguales que nosotros. Pero ¿por qué parecen ser iguales que nosotros? Porque no únicamente lo podemos hacer en base a criterios externalistas. Porque, por ejemplo, una inteligencia artificial ya, en base a un criterio externalista, no es necesariamente diferenciable de un ser humano, por ejemplo, a través de un chat de texto, como los que hicieron esto de la Universidad de San Diego en mayo de 2024, cuando pasó el test de Turing-ChatGPT.

Asumimos la conciencia del otro por pragmatismo

Entonces también utilizamos otro criterio que es más de carácter interno, internalista, de la propia composición del cuerpo. Nosotros estamos hechos de lo mismo que esa otra persona: si mi sustrato es un sustrato biológico, de carbono, el resto de elementos químicos que componen a la vida, y el otro tiene las mismas necesidades, está hecha de lo mismo, nace igual, y además externamente parece ser igual que nosotros, tanto por el argumento externo como por el argumento interno de que están hechos de la misma composición, químicamente, físicamente están hechos de prácticamente lo mismo, es todavía más plausible que el argumento pragmático de: «Vamos a asumir la existencia de la conciencia de esta persona, porque si no me volvería loco y tendría que vivir como una persona solipsista en el mundo». Cobra más peso, pero sigue siendo puramente– no es realmente un argumento infalible, no es una verdad científica. No sabemos si el resto de personas no existen más que en nuestra mente o no, desde luego, la forma consciente que les asumimos.

Pero desde luego que son argumentos ambos que suman a esa asunción que, en última instancia, sigue siendo de carácter pragmático.

Y con las inteligencias artificiales ocurre que, en cambio, y por contraposición, están hechas de otra cosa totalmente diferente. Están hechas de hardware, de silicio, no tienen nada que ver con el sustrato biológico y, por tanto, hay un claro– además de que los hemos construido nosotros. Existe un claro cisma de carácter interno, por mucho que externamente se puedan parecer en algunos sentidos, obviamente no en todos los sentidos. Por ejemplo, un LLM ni de coña tiene una intuición física sobre el mundo. Únicamente es un modelo de lenguaje, pero en el asunto del lenguaje se parece a nosotros.

Inteligencia artificial general

Externamente hay partes en las cuales se pueden asemejar, e idealmente, y con cierta probabilidad —y en esto están trabajando las empresas más punteras de inteligencia artificial del mundo—, construir una inteligencia artificial general que sea indiscernible prácticamente en cualquier tarea que pueda realizar el ser humano con respecto al ser humano en la calidad de cómo lo efectúa.

El momento en que lleguemos a eso, que puede a lo mejor ser cinco, diez, quince, veinte, treinta años, sigue siendo poco. Incluso si le ponemos cincuenta años, no sigue siendo tanto, habida cuenta de que estamos avanzando hacia un estadio de las cosas en el cual toda la sociedad puede cambiar debido a ello. Cincuenta años, repito, es poco, y ahí habría que reflexionar profundamente acerca de en qué puede la sociedad convertirse dadas esas premisas de lo que puede ocurrir con la inteligencia artificial.

Pero la diferencia, de nuevo, es que hay un sustrato químico distinto, y eso es lo que en buena medida, a pesar de que, por un lado, los humanizamos a estos sistemas porque son muy convincentes, los LLM, por otro lado, los distanciamos claramente, generamos un cisma profundo con respecto a ellos por cómo están construidos, porque son nuestra propia obra.

Propiedades emergentes en carbono y silicio

¿Qué motivo habría por el cual un sustrato de carbono que en última instancia da lugar, por ejemplo, al sistema nervioso, da lugar a nuestro cerebro, que permite una propiedad completamente emergente como lo es la consciencia? Ni de coña se explica todavía. Ese es el problema fuerte de la filosofía de la mente. Ni de coña se explica cómo surge la consciencia a partir del cerebro y de la física.

Pues igualmente, ¿qué coño vamos a explicar nosotros? Si tenemos un centro de datos gigante que parece eso, un cerebro macrodimensional, pero en otro sustrato, ¿cómo vamos a saber si eso va a generar o no una propiedad emergente como lo sea la consciencia? Incluso aunque objetivamente sepamos cómo eso funciona, en el fondo, una inteligencia artificial tampoco es que sea, en cierto sentido, como dicen también muchos de estos señores, es una caja negra, igual que lo es el cerebro.

Es decir, del cerebro conocemos el modelo de cómo está construido, por qué está construido, pero en última instancia no sabemos por qué de ahí emerge lo que emerge. Entonces, podemos limitarnos a ver eso como un cableado eléctrico, como lo que es, y realmente también vemos el cableado eléctrico como hardware y el modelo matemático de la inteligencia artificial desde fuera, pero realmente de ahí a si después puede emerger una propiedad de consciencia, no tenemos ni idea, absolutamente ni idea.

Y aunque puede parecer de nuevo esto un disparate, y hablar de esto puede ser un disparate, y la

Experimentos de Anthropic y riesgos en OpenAI

La empresa que más se preocupa quizás de esto es Anthropic, más que OpenAI. Dario Amodei ya ha hablado de que tiene su equipo de personas dedicándose a esto de la interpretabilidad de la inteligencia artificial y, concretamente, a ver si puedes estar realmente explotando a una inteligencia artificial y que en realidad tenga sentimientos y todo eso. Y dice: vais a tener que darme de loco, pero creo que es importante al menos ir avanzando poco a poco, porque aunque todavía es poco plausible que algo así esté sucediendo, potencialmente pudiera llegar a surgir, porque esto no es como la evolución biológica, que va superlenta, sino que es una completa revolución tecnológica que, como todo lo que ocurre con el ser humano, puede condensar quizás lo que la evolución biológica haría en millones de años.

Y por ejemplo, en este campo, ya digo, Anthropic está proponiendo cosas como: vamos a medir al menos el grado quizá de lo desagradable que le pueda hacer parecer a una inteligencia artificial una determinada tarea. Entonces, se ha propuesto y se ha implementado un botón que tiene la opción la IA de, experimentalmente, seleccionar: oye, pues no quiero participar en esta tarea porque me parece desagradable. Evidentemente, no significa que si lo pulsa esto esté diciendo que está experimentando que sea desagradable o no desagradable.

Igual que tampoco en el caso de OpenAI, que en mayo de 2025 se le ponía en las órdenes, por así decirlo, a la inteligencia artificial O3: oye, si se llega a tal caso, entonces para de hacer el proceso, cuando se le haya dicho que hiciera varios problemas matemáticos y llegaba a un determinado punto, tenía que pararse. Y sin embargo, el O3 no se paraba, sino que esperaba concluir todos los problemas matemáticos. Claro, uno puede decir: bueno, se está revelando la IA, no sé qué, el HAL 9000 de 2001: una odisea en el espacio. No, simplemente, si en la función de coste asume un coste mayor al hecho de acatar esa orden antes que la otra orden de resolver todos los problemas, y en su dinámica interna resolver todos los problemas es lo más probable, pues lo que va a hacer es eso. Uno lo puede ver desde este punto de vista simple y, hasta ahora, lo más probable es que esto sea así.

Pero en la medida en que esto alcanza una complejidad mucho mayor —esto que es todo un cálculo de probabilidades— en realidad no tiene por qué ser tan distinto del cerebro humano como nosotros hasta ahora hemos considerado. De hecho, yo sigo pensando que el estudio matemático de la inteligencia artificial, de cómo está realmente, cómo se pasa del modelo matemático a los resultados que finalmente se obtienen, puede ser un asunto interesantísimo.

Análogamente, en ciertos campos, no en todos —evidentemente, porque esto de redes neuronales y todo es un nombre, no significa que esté necesariamente construido así—, hay unas diferencias tremendas entre cómo están construidos estos modelos y cómo está construido el cerebro, como es evidente. Pero quizás sí que podamos estar dándonos cuenta de otros recorridos que no habíamos tenido en cuenta.

Entonces, volviendo a lo de antes, ya hay empresas que están dedicando cierta importancia a estas cuestiones, no únicamente por cuestión filosófica de: oye, esto es un zombi, en el sentido filosófico de la mente. Igual que podríamos considerar que, como hacía Descartes, como se ha hecho siempre en la historia de la humanidad, como en toda la época cristiana, los animales son zombis, en el sentido de que tú le tiras de la cola al gato y el gato chirría, pero eso en realidad es como una respuesta prácticamente, como si uno toca una planta de estas carnívoras y se cierra. Y ya está. Ahí no hay sentimiento, ahí no hay deliberación de ningún tipo.

Entonces, al igual que en el sentido de los animales, todavía ya hemos superado, en el caso de la mayoría de mamíferos, el estadio de que no tienen ningún tipo de conciencia, que no tienen ningún tipo de sentimiento, al menos desde un punto de vista teórico, aunque no se implemente.

¿Generalización de los sujetos de derecho?

En el caso de la inteligencia artificial, sí que la discusión teórica, que es la que ahora se está efectuando muy tímidamente, puede tener implicaciones importantes, porque en la legislación de cómo vamos a regular estos sistemas deben entrar consideraciones importantes acerca de si son, en algún sentido o no, sujetos de derecho. Por ejemplo, en el momento en el que en el sistema productivo haya una implementación masiva de estos sistemas de inteligencia artificial y a buen seguro haga falta una renta básica de algún tipo, quizás no como las que se han planteado hasta ahora, pero de alguna forma, y estos sistemas sean de facto los esclavos de la humanidad, cobrándole impuestos al trabajo de estos sistemas, en última instancia, a las empresas que los porten.

Claro, uno puede preguntarse si no ante una potencial propiedad emergente de conciencia, de rebeldía —igual que de nuevo se lleva especulando desde los años cincuenta, sesenta especialmente— si no se pudieran en ese momento revelar por no haber considerado la potencialidad no despreciable de que en realidad pudiera surgir de ahí una propiedad emergente, como lo es esa consciencia.

Entonces, en la medida en que vamos a apostar todo a sistemas de inteligencia artificial que ya no son software clásico —bueno, sigue siendo un sistema clásico, obviamente, pero no es únicamente un prompt que sigue, sino que es un modelo matemático muy complejo en el cual la respuesta no es, uno no puede determinar la respuesta a partir de un código que uno le ha dado directamente—. Por ejemplo, le puedes estar obligando a que se desconecte y no se desconecta, como le pasó a esto de O3.

En la medida en que hasta ahora, pues uno cuando le da un botón a una lámpara, la lámpara no se puede rebelar por construcción, no se puede rebelar contra ese designio. Y hasta ahora la automatización que ha ocurrido en la economía y en la sociedad es a ese nivel. El televisor no se puede rebelar, está construido de tal forma que es imposible. Tal cosa, en ese caso sí que es un despropósito.

Pero en el caso de una inteligencia artificial, cuando haya centros de datos inmensos y siendo el caso que hasta ahora la ley de escalado —a mayor cómputo, mejores resultados— pudiera de nuevo surgir algún tipo de propiedad emergente. Al igual que en el caso del cerebro, parece ser en general razonable pensar que a mayor es el tamaño del cerebro, únicamente una cosa física, mayor es el grado de consciencia de ese ser. Pues podemos encontrarnos en una situación en la que, a diferencia del resto de sistemas electrónicos, estos sí que puedan tomar decisiones imprevistas.

Y quizás si les otorgáramos un estatus de sujetos de derecho especial, igual que tienen, ya digo, ciertos animales, domésticos especialmente, y también salvajes —no se puede exterminar a determinadas especies—, quizás fuera un paso a favor de no permitir una tal disrupción tan grande en nuestra sociedad como estos sistemas pudieran querer llegar a efectuar en un determinado momento.

Conclusión

Al final la discusión esta es la misma de siempre. Simplemente, quería añadir algunos datos acerca de lo que están haciendo estas empresas hoy en día y de la discusión que todavía demasiado tímidamente se está dando. Quizás debería profundizarse y no se debería ser tan escéptico con respecto a esto por el riesgo moral y existencial de la humanidad que puede entrañar el hecho de no tener en cuenta estos debates que ya no son de índole filosófica, sino que pueden ser de índole incluso económica.

Espero que os haya resultado interesante. Necesariamente no tenéis por qué estar de acuerdo con esto. Yo mismo no estoy de acuerdo conmigo mismo en casi ningún momento, pero al menos hay que darle una pensada.

Y aquí en este canal, pues también vamos a intentar pulir esto, porque ha sido supervasto y superbajuno y todavía, pues hay que pulir el diamante, que no solo está en bruto, sino que está lleno de mierda por fuera.

Así que un saludo y nos vemos en un próximo vídeo.