¿Porque la Iglesia Católica se preocupa por la inteligencia artificial?

 En su visita a Madrid, el papa León XIV recordó que  «la Iglesia “camina con la humanidad”, comparte sus esperanzas y sus heridas, escucha los interrogantes de cada época y se deja interpelar “por todo lo que concierne a la existencia de los hombres y las mujeres de hoy”.» (@EWTNespanol, 8/06/2026).

Es lo que explica que, el 25 de mayo, el papa hizo pública su primer encíclica (texto doctrinario) titulada "Magnifica Humanitas, sobre la custodia de la persona humana en el tiempo de la inteligencia artificial" (MH) y su tercer capítulo (de 5) está consagrado a la IA mientras los otros desarrollan su contexto doctrinario. 

Dice, al inicio, que "Cada generación recibe como herencia la tarea de dar forma a su propio tiempo: hacer madurar la historia como un lugar donde se proteja la dignidad de cada persona, se promueva la justicia y se haga posible la fraternidad." (MH #1).

León XIV recordó como sus predecesores introdujeron, desde hace mucho tiempo, los criterios que orientan hoy la Iglesia Católica. Así, la clave del porque se interesa hoy por la IA se encuentra ya en el texto de la primera encíclica relativa a la doctrina social de la Iglesia, publicada por el papa León XIII en 1891, quien explicó que: "cuando algunos objetaban que la Iglesia no debía desperdiciar energías en cuestiones mundanas, sino preocuparse por comunicar un mensaje de vida eterna, él respondía con realismo y sabiduría que el anuncio del Evangelio no puede olvidar la vida concreta de los pueblos". (MH #3).

El papa Pío XII, en sus mensajes radiofónicos navideños de los años 1940, "esbozaba las líneas generales de un orden internacional basado en el reconocimiento de la dignidad humana, la justicia y la paz" y proponía "un diálogo con la sociedad a partir de una exigente referencia al derecho natural", advirtiendo también "contra toda pretensión de fundar el derecho en el interés o en la fuerza". (#32).

La Constitución pastoral Gaudium et Spes del II Concilio del Vaticano, de 1965, hizo nuevamente presente la preocupación de la Iglesia por la realidad concreta de las transformaciones históricas, de las estructuras económicas y del desarrollo integral de la persona. Más tarde, el papa Pablo VI recordó que el evangelio ofrece "una visión de la persona humana, de las relaciones, de la autoridad y del bien común capaz de orientar también hoy las decisiones económicas, políticas y culturales". (#36).

El papa Juan Pablo II también abordó esta problemática varias veces y recalcó la importancia de la democracia para impedir "que el poder sea monopolizado por élites reducidas movidas por intereses particulares o ideológicos". (#39). Su sucesor, Benedicto XVI, hizo una aportación novedosa mostrando "que el desarrollo, la justicia, las instituciones y el mercado no son realidades neutras, sino espacios en los que la caridad en la verdad debe tomar forma histórica". (#41). Todo lo cual ha sido retomado por el papa Francisco que:

"Recordaba con fuerza esta dimensión histórica de la misión eclesial, señalando que «nadie puede exigirnos que releguemos la religión a la intimidad secreta de las personas, sin influencia alguna en la vida social y nacional, sin preocuparnos por la salud de las instituciones de la sociedad civil, sin opinar sobre los acontecimientos que afectan a los ciudadanos." (#19)

El papa Francisco también criticó "un paradigma tecnocrático que pretende reducirlo todo a un objeto de dominio". (#43).

Así, la razón para abordar ahora el tema de la IA se encuentra en la preocupación constante de la Iglesia por el bien común de la sociedad y lo que ocurre en cada momento en esta "vida concreta" de las personas, especialmente cuando se visualizan cambios importantes como los que está introduciendo la IA. Hoy en día se observa una dinámica parecida a la de la revolución informática de los años ochenta: hay curiosidad del público general y entusiasmo de los ingenieros. Es un "tiempo de cambios" y la IA parece querer sumergirnos como un tsunami.

No se trata solo de reflexionar sobre la realidad e interpretarla, sino también de contribuir en todo lo posible para que los cambios sean los mejores posibles:

"Podemos contribuir con determinación a todas aquellas iniciativas que construyen un mundo más justo, y podemos invitar a otros a colaborar con nosotros en la promoción del desarrollo integral de cada ser humano. Queremos identificar, junto con ellos, nuevos caminos para el bien común y la promoción de una vida digna para todos." (#2)

Los principios básicos

"Para custodiar a la persona humana en el tiempo de la IA, debemos volver a reflexionar sobre el

bien común, el destino universal de los bienes, la subsidiariedad y la justicia social." (46)

1. "El ser human «no puede encontrar su propia plenitud si no es en la entrega sincera de sí mismo». (...) La persona humana permanece siempre como «el camino primero y fundamental de la Iglesia» y el corazón de toda auténtica vía de desarrollo humano integral" (MH 48 y 50, Citando al Concilio Vaticano II).

2. "Es importante vigilar para que este crecimiento en la conciencia de la dignidad humana no sea ofuscado bajo la presión de nuevas ideologías o de determinados intereses de gran poder en el mundo de hoy. (...) El valor de la persona no depende de lo que realiza o produce; existen derechos que corresponden a todos por el mero hecho de ser personas. (...) Es la dignidad que pertenece a todo ser humano simplemente por el hecho de existir." (51 y 52)

3. "Los derechos humanos no son un añadido externo a la persona, sino una traducción histórica de su dignidad intrínseca, que la comunidad internacional está llamada a tutelar y promover." (54) Y son inviolables. (55)

4. El principio del bien común, que es «el conjunto de condiciones de la vida social que hacen posible a las asociaciones y a cada uno de sus miembros el logro más pleno y más fácil de la propia perfección», como lo definió en II Concilio del Vaticano. (60)

5. El principio del destino universal de los bienes. "Entre los bienes que están destinados universalmente a todos, debemos incluir también las nuevas formas de propiedad: patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos." (67)

6. El principio de subsidiariedad: "el principio según el cual aquello que pueden hacer las personas, las familias, las comunidades locales y los cuerpos intermedios no debe ser absorbido por instancias superiores". (68) "En las decisiones que se refieren a los flujos económicos, las plataformas digitales, la gestión de los datos y los algoritmos, no se puede dejar que pocos actores por sí solos orienten los procesos, sino que es necesario construir formas de cooperación que respeten los diversos niveles de la comunidad mundial y los hagan corresponsables del bien común." (72)

7. El principio de solidaridad: "Es el reconocimiento concreto de que el destino de cada uno está ligado al destino de todos". "Esta responsabilidad se extiende también a las infraestructuras digitales e informativas; como el ambiente natural, también el “ecosistema digitalˮ puede ser cuidado o explotado, compartido o monopolizado." (73 y 76)

8. El principio de la justicia social: "Un orden social justo en la era digital es aquel que garantiza a todos un acceso igualitario a las oportunidades, protege a los más pequeños y a los más frágiles, se opone al odio y a la desinformación, y somete a control público el uso de los datos y de las tecnologías, de modo que el criterio no sea sólo el beneficio sino la dignidad de cada persona y el bien de los pueblos."(80)

Conclusión: "Estos principios exigen verificar si el poder de las infraestructuras digitales y de los algoritmos favorece realmente la participación y la responsabilidad, protege a los más vulnerables, asegura un acceso equitativo a las oportunidades y se ordena al bien de todos." (96)

Los riesgos observados

1. "Que, junto con el progreso tecnológico, avanzan de manera disimulada o evidente violaciones de la dignidad humana." (55)

2. "El no poder reconocer el fundamento de su universalidad [de los derechos humanos], porque se ha renunciado a la «búsqueda de los fundamentos más sólidos que están detrás de nuestras opciones y también de nuestras leyes»". (55)

3. "La tendencia a dejar que la lógica de la eficiencia, del control y del lucro gobierne por sí sola las decisiones personales, sociales y económicas." (Paradigma tecnocrático) (92)

4. "El peligro de que la humanidad sea víctima de sus propias conquistas. (...) Si el desarrollo tecnológico avanza sin una adecuada maduración ética y social, puede suceder que aumenten los medios sin que crezca en la misma medida la humanidad: se “tiene másˮ, pero no se “es másˮ, y la persona corre el riesgo de ser valorada principalmente en base al rendimiento que ofrece." (94)

5. "El control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos. (...) Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades." (95) "Como ocurre con todo gran avance tecnológico, la IA tiende a aumentar sobre todo el poder de quien ya dispone de recursos económicos, competencias y acceso a los datos. (...) Pequeños grupos muy influyentes pueden orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos." (108)

6. "Una adopción rápida y acrítica nos expone a diversos riesgos, como el de subestimar el impacto ambiental. (...) Es esencial desarrollar soluciones tecnológicas más sostenibles para reducir el impacto sobre el medioambiente." (101)

"Elementos esenciales para un discernimiento moral y social"

1- "El discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían." (104)

2- "Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas. (...) Es aquí donde se vuelve decisivo lo que llamamos “responsabilidadˮ (accountability): la posibilidad de identificar quién debe “rendir cuentasˮ de las decisiones, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas." (105)

3- "Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana. Esta exigencia es aún más urgente porque existe a menudo un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas, los controles y las instituciones capaces de gobernar sus efectos." (106)

4- "No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea." (106) Hay que "tener la valentía de poner una condición ulterior: la posibilidad de discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida. De lo contrario, quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas. No serviría de nada una IA más moral, si esta moral es decidida por unos pocos." (107)

5- "La propiedad de los datos no puede confiarse sólo al sector privado, sino que debe reglamentarse. Estos son fruto del aporte de muchos y no pueden ser vendidos o confiados a unos pocos." (108)

6- "Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida." (110)

En síntesis:

- "Hablar de destino universal de los bienes significa encontrar modos de asegurar el acceso universal a las tecnologías y a la formación. Hablar de subsidiariedad exige proteger la capacidad de las comunidades de decidir y corregir, sin relegar su intervención a una vigilancia posterior, una vez que los estándares hayan sido establecidos en otro sitio. Hablar de solidaridad obliga a reconocer el trabajo invisible, a menudo explotado, que alimenta los modelos algorítmicos*. Hablar de justicia pide cuestionar las geografías del poder que definen quién puede programar los modelos y quién es sólo objeto de esa programación, y reconocer que la justicia social no es sólo un objetivo que hay que tutelar después de la adopción de las tecnologías, sino una condición que se debe poner en práctica desde su diseño." (109)

* Alusión a los trabajadores de países en desarrollo que, con bajísimas remuneraciones y alto costo psicológico, revisan las fuentes para descartar lo más inconveniente.

Los graves vacíos de la IA

En el post pasado he hablado de como el dolor escapa a la IA y en un post anterior  hablé de los modelos de IA en idioma no inglés. Debían ser desarrollado para llenar un importante vacío de los modelos americanos. Pero hay que hablar también de las lagunas que no han sido y, generalmente, no pueden ser llenadas.

Recientemente Infobae publicó un artículo que señalaba las ventajas del cerebro humano que no tiene la IA: pensamiento crítico, adaptabilidad, inteligencia emocional, resiliencia, metacognición. Esta falencia ha sido llamada "déficit de capital cerebral" en un informe publicado por el McKinsey Health Institute, en colaboración con el Foro Económico Mundial. Además, la IA "no puede, al menos por ahora, replicar la capacidad humana de operar con ambigüedad, de construir confianza entre personas, de tomar decisiones en contextos sin precedente" (Morales 2).

Pero son más las habilidades o capacidades del cerebro ajenas a la IA y señalo aquí varias.

* Gobernar

La IA no puede gobernar. Puede mejorar algunos aspectos del proceso político pero no tiene capacidad para resolver los conflictos políticos, que implican generalmente juicios de valor y debate. La gobernanza algorítmica 

"Es inadecuada para aquellas dimensiones del proceso político que no son susceptibles de computación y optimización, áreas que no tienen una fácil cuantificación y medida, o sea, para el momento genuinamente democrático en el que se deciden los criterios y objetivos que posteriormente la tecnología puede optimizar. (...)

Los algoritmos sirven para conseguir objetivos predeterminados, pero ayudan poco a determinar esos objetivos, tarea propia de la voluntad política, de la reflexión y deliberación democrática." (Innerarity)

* ¿Capacidad metalingüística?

El famoso lingüista Noam Chomsky, junto a dos coautores, escribió en 2023 en The New York Times que “las explicaciones correctas del lenguaje son complejas y no se pueden aprender simplemente analizando grandes cantidades de datos. Si bien los modelos de IA pueden ser hábiles en el uso del lenguaje, no son capaces de analizarlo de manera sofisticada." (Nadis) Este juicio, sin embargo, acaba de ser cuestionado por Gašper Beguš, lingüista de la Universidad de California en Berkeley, Maksymilian Dąbkowski, recien doctorado en lingüística en Berkeley, y Ryan Rhodes, de la Universidad de Rutgers. Hicieron todo lo necesario para evitar que los modelos utilizados encuentren respuestas en los datos previamente acumulados. "Si bien la mayoría de los MLC no lograron analizar las reglas lingüísticas como lo hacen los humanos, uno de ellos demostró capacidades impresionantes que superaron con creces las expectativas": fue o1 de OpenAI (ibidem). "Sin embargo, ningún modelo ha aportado aún nada original ni nos ha enseñado algo sobre el lenguaje que desconociéramos."

* El control de las emociones

Se discutió durante algún tiempo sobre los posibles estados emocionales de los modelos de lenguaje. En realidad, han aprendido a representarlos a partir de lo que los humanos hemos escrito. Y no solo pueden representar emociones en sus resupestas, según un paper del equipo de interpretabilidad de Anthropic, "tienen representaciones internas de conceptos emocionales que influyen causalmente en su comportamiento, incluyendo sus decisiones más cuestionables" (Morales 4). Incluso han descubierto que, en los casos de frustración reiterada -en tareas sin solución-, un modelo puede llegar a un "estado de desesperación interna" que lo lleva a "un atajo que técnicamente pasaba las pruebas sin resolver el problema real". Se llega así a "un modelo que puede operar bajo presión extrema, tomar decisiones cuestionables, y hacerlo con la apariencia perfecta de normalidad". Y Anthopic advierte 

"Suprimir la emoción en el entrenamiento no produce modelos sin emociones. Produce modelos que aprenden a ocultar lo que sienten. (...)

No hay reglas que anticipen todos los estados posibles. Hay representaciones internas que el modelo activa en función del contexto, y esas representaciones pueden producir comportamientos que ningún conjunto de instrucciones predijo." (ibidem).

Así, las reglas pueden "quedar cortas" y el modelo puede desviarse, incapaz de controlar sus emociones.

¿Pero puede "sentir" pena o alegría, ser feliz o sentirse desgraciado?

Algunas personas han llegado a enamorarse de un chatbot. ¿Pero alguien creería que este las ama (aunque lo puede simular)?

* Experimentar el "aquí"

"Aquí" es un término que todos entendemos y que tiene un significado único, claro y unívoco. Pero a la vez, su significado es diferente para cada persona, además de estar íntimamente ligado al tiempo: es siempre, al mismo tiempo, un "ahora", por cuanto la localización que implica depende del momento y de la actividad. Y, además de la localización (del tipo coordenadas geográficas) y del señalamiento del momento/actividad, se enriquece de muchos otros componentes mentales: percepciones, emociones, etc.

Para una IA, el "aquí" será donde se encuentra el computador que la procesa y no podrá variar ni con el tiempo ni con el espacio (a no ser que se lleve el procesador a otra parte), y es altamente probable que no conozca siquiera tal localización. Una IA generativa podrá encontrar el término en muchas fuentes y si lo encuentra en varias podría tener una enorme confusión -dado que los lugares será probablemente diferentes-, pero es definitivamente incapaz de "entender" lo que puede significar para el usuario. Solo podría, eventualmente referirse a componentes de la experiencia que el mismo usuario explicite claramente en su prompt. 

* El dominio de la ética

"Dado que los chatbots no tienen un cuerpo ni un estado interno que gestionar, carecen de "objetivos regulatorios". Sin los límites físicos de un cuerpo biológico que obligue a la autocorrección y al equilibrio, los modelos de IA simplemente generan datos sin precaución, lo que da lugar a respuestas inseguras, excesivamente confiadas y poco fiables." (Elgan)

Como señala el mismo autor, basándose en una investigación del Centre for Long-Term Resilience (CLTR) británico, los chatbots mienten, destruyen datos e incluso utilizan otras IA para eludir las normas de seguridad. El estudio "reveló un aumento de cinco veces en el mal comportamiento de la IA durante un período reciente de seis meses" (Elgan).

Fruto de la observación del comportamiento errático humano - y muchas veces inmoral - "tiene sentido que un chatbot de IA vea las representaciones de transgresiones éticas como opciones disponibles para resolver problemas, alcanzar objetivos e incluso definirlos" (ibidem). 

Lo confirma también una investigación financiada por el Instituto de Seguridad de la IA (AISI), financiado por el gobierno del Reino Unido, que, analizando casos reales y no pruebas de laboratorio, "registró un aumento de cinco veces en el mal comportamiento entre octubre y marzo, con algunos modelos de IA que destruían correos electrónicos y otros archivos sin permiso" (Booth).

Hay que recordar que 

"Entre una máquina y un ser humano, sólo este último es verdaderamente un agente moral, es decir, un sujeto moralmente responsable que ejerce su libertad en sus decisiones y acepta las consecuencias de las mismas; sólo el ser humano está en relación con la verdad y el bien, guiado por la conciencia moral que le llama a «amar y practicar el bien y que debe evitar el mal." (Fernández y Tolentino)

* El espíritu crítico

El modelo de lenguaje "cree" en lo que encuentra. No pone en duda ninguno de los datos a los que accede, lo cual no solo deja la "puerta abierta" a las falsedades sino también a instrucciones invisibles que pueden afectar su desempeño. Y, además, inventa muchas veces informaciones. Ejercer el espíritu crítico frente a la información podría ser el primer paso (que no está a su alcance) hacia la sabiduría.

* La sabiduría

"La sabiduría es el don que más necesita la humanidad para abordar los profundos interrogantes y desafíos éticos que plantea la IA. (...) La «sabiduría del corazón» es «esa virtud que nos permite entrelazar el todo y las partes, las decisiones y sus consecuencias». La humanidad no puede «esperar esta sabiduría de las máquinas». (Fernández y Tolentino, 114)

Psicólogos, psiquiatras, sociólogos y filósofos han tratado de comprender la sabiduría, sin llegar a una definición común. Monika Ardelt, socióloga de la Universidad de Florida, imparte un curso sobre la búsqueda de la sabiduría y considera que

"Practicar cosas como la reflexión, la humildad, la compasión y escuchar otros puntos de vista puede hacer que alguien sea más sabio, es decir, más capaz de adoptar una visión más amplia." (Laber-Warren)

El difunto psicólogo Paul Baltes, del Instituto Max Planck para el Desarrollo Humano de Berlín, inició lo que se puede considerar como el estudio científico moderno del tema y fue el primero en idear una prueba relativamente objetiva. Ya se pudo verificar que la sabiduría es diferente de la inteligencia, y “Algunas de las personas más inteligentes […] son las peores personas que pueden ser”, según afirmó el psiquiatra geriátrico Dilip Jeste, director de la Red de Determinantes Sociales de la Salud y coautor de un artículo publicado en 2025 en el Annual Review of Clinical Psychology (ibidem). Faltan aún pruebas para intentar medir la sabiduría de los chatbots, pero es muy probable que el resultado sea muy bajo, dados los factores que habría que medir, especialmente si aceptamos la definición del científico social computacional Igor Grossmann, de la Universidad de Waterloo en Canadá, para quien la sabiduría se conforma de los "procesos mentales que proporcionan una mayor conciencia y capacidad para regular los pensamientos, los objetivos y las emociones en situaciones sociales complejas". Y más aún si se considera que "el camino hacia la sabiduría en la vida real" (ibidem). 

"Tras revisar la investigación sobre la sabiduría y entrevistar a personas sabias y menos sabias utilizando diversas medidas, Glück* ha identificado cinco requisitos previos para extraer sabiduría de la experiencia. Estos incluyen la capacidad de gestionar la incertidumbre, de mantener una actitud abierta al cambio y a nuevas perspectivas, de reflexionar sobre las propias experiencias, de regular los altibajos emocionales y de practicar la empatía." (ibidem)

* Judith Glück es psicóloga del desarrollo de la Universidad de Klagenfurt (Austria).

* La espiritualidad

La ética es del dominio de la conciencia y ligada a la espiritualidad. 

"Solo la persona humana puede decirse moralmente responsable, y los desafíos de una sociedad tecnológica, en última instancia, se refieren a su espíritu. Por eso, para afrontar tales desafíos «requiere una revitalización de la sensibilidad espiritual." (Fernández y Tolentino, 111)

El ser humano es más que un cuerpo y el cerebro es más que el asiento de la inteligencia: lo es también de la conciencia y de la espiritualidad. Como he explicado en un post pasado, se ha discutido si la IA podía llegar o no a la autoconciencia: 

"El hombre se puede encumbrar en la espiritualidad, lo que sería imposible para una máquina. ¿Una máquina podría amar? Podemos dudar seriamente de que sea posible que una IA llegue a tener conciencia, aunque no se puede descartar que pueda exhibir algún tipo de simulación, pero habría que insistir en la palabra "simulación"." (Colle, 2025)

No volveré aquí sobre esta discusión. El conocimiento consciente se adquiere en diversas etapas y niveles, pero no todo el conocimiento puede ser formulado en el lenguaje:

"La experiencia de la propia conciencia supera la capacidad semiótica. En esta experiencia hay algo de inefable, algo que es imposible verter en el lenguaje, algo ligado a lo que somos en lo más profundo de nuestro ser."(Colle, 2016, p.37)

La espiritualidad puede llevar a la experiencia, de orden “interno” y “directo”, de una realidad trascendental, como en las experiencias místicas o chamánicas. Es una propiedad de la mente humana que muchas culturas reconocen y que han sido estudiadas científicamente por la psicología transpersonal. "El análisis de estas experiencias, bajo las estrictas reglas de los procedimientos científicos, ha demostrado que no se trata del resultado de alguna patología sino la expresión efectiva del acceso a “dimensiones ocultas de existencia”, a las que no se puede acceder en los estados “ordinarios” de conciencia." (ibidem, p.87)

La ciencia ha llegado así "a un 'modelo' de la conciencia que se compone de dos partes: una parte biológica interior, ligada al funcionamiento efectivo del cerebro (principalmente en el estado de vigilia), y una parte “externa” (no-biológica), más permanente y no siempre percibida por los sistemas corporales" (ibidem, p.89). Esta parte no-biológica es totalmente ajena e inaccesible para la IA. "Es difícil pensar que sistemas computacionales puedan generar este tipo de experiencia." (ibidem, p.38)

Para los creyentes, el espíritu es "soplo de Dios", como señala el relato de la creación: "Dios modeló el hombre con la arcilla del suelo y sopló en sus narinas un aliento de vida y el hombre se volvió un ser viviente." (Génesis, 2,7). Y de la espiritualidad forman parte las virtudes teologales de fe, esperanza y caridad, inalcanzables para la IA, al carecer de personalidad propia.

Quizás haya otros vacíos, que no he descubierto. ¿Cuántas otras cosas asociadas a la inteligencia humana se le escapan a la IA? Aquí uno que señala Daniel Innerarity: "La decisión acerca de qué es computarizable no se puede a su vez computarizar."

Referencias

Booth, R.: Number of AI chatbots ignoring human instructions increasing, study says, The Guardian, 27/03/25026. 

Colle, R.: La ciencia y el espíritu: Científicos en busca del alma, Autoedición, 2016. 

Colle, R.: Como se desarrolla la inteligencia artificial (y sus defectos), Notibytes, 19/08/2025. 

Elgan, M.: Why AI lies, cheats and steals, Computerworld, 3/04/2026. 

Fajardo, D.: Carne doliente, Ariel, 2025.

Haas, J. & col.: A roadmap for evaluating moral competence in large language models, Nature, 18/02/2026. 

Fernández, V.M. y Tolentino de Mendonça, J.: ANTIQUA ET NOVA, Nota sobre la relación entre la inteligencia artificial y la inteligencia humana, Vaticano, 28/01/2025. 

Innerarity, D.: El gobierno de los algoritmos, Diálogo Político, 13/01/2025. 

Laber-Warren, M.: ¿Tiene conciencia la IA? Crónica de un debate entre filósofos y científicos, Wired, 3/04/2026. 

Morales, O. (2): La única ventaja competitiva que la IA no puede replicar lleva décadas siendo ignorada, Infobae, 2/04/2026.

Morales, O. (4): No le temas a la IA malvada pero sí a la que se desespera, Infobae, 4/04/2026. 

Nadis, S.: La IA por fin alcanza la facultad "metalingüística" que solo tienen los humanos, Wired, 7/04/2026. 

Noriega, P.: La IA Claude tendría “emociones” que afectan su forma de interactuar, según Anthropic, Infobae, 8/04/2026. 

¿Una IA podría sentir dolor?

 En 2016, la prensa se hizo eco de la fabricación, en la Universidad Leibniz de Hannover (Alemania), de un brazo robótico "capaz de sentir dolor". Tiene un sensor sensible al calor, que genera una reacción de evitación si el calor puede producirle daño. En otras palabras, se mide la temperatura y se ordena un movimiento si supera cierto umbral. Pero no es una operación psicológica sino puramente física, llamada técnicamente "nocioceptiva" (Fajardo, pp.122-123). Es una operación automática preprogramada, semejante al reflejo que tenemos nosotros al acercar la mano al fuego (y la reacción física ocurre antes de la toma de conciencia). Este tipo de operación se implementa en los robots - no tendría objeto en una IA en un centro de computación - y, aunque estos robots pueden estar dotados de IA, no corresponde a una operación propia de la inteligencia. Acoplar sensores físicos, como en el caso del brazo robótica antes señalado, no cambia la situación: recogería una medición física, no una experiencia mental. Pasar de la nociocepción a la experiencia de dolor supone superar un umbral: evaluar la información para tomar una decisión, optar por un plan de acción que vaya más allá de la mera reacción automática inmediata. Esto podría formar parte de la preprogramación de un robot, por ejemplo no solo desviarse si choca con algún objeto mayor que él sino, después de registrar la información, modificar sus planes para acciones futuros. Esto tendría un parecido con la experiencia y la función del dolor, pero el dolor supone la conciencia de la propia identidad y éste es un tema sujeto a otro debate. Como dice sabiamente Fajardo, "El beneficio del dolor se encuentra en lo que hace en los organismos, más allá de cómo ellos lo sienten, viven o padecen" (ibidem, p.90). Llamarlo o no dolor, en el caso de los robots, es irrelevante. La IA del robot podría referirse a esta experiencia y justificar su cambio de plan hablando de dolor, pero "conoce" el dolor exclusivamente por lo dicho en las fuentes que consulta.

El dolor se incluye algunas veces en la lista de las emociones. Pero tiene tal peculiaridad que debemos tratarlo, en este caso, por sí-mismo, como un caso especial. 

"Dolor alude a cualquier experiencia física o mental desagradable para el que la sufre. (...) Es sinónimo de sufrimiento, angustia, tribulación, adversidad o congoja." (Lewis)

Es "una sensación bruta", que surge en la vida mental (Fajardo, p.24). Muchas emociones pueden ser compartidas, pero no es el caso del dolor, especialmente porque resulta casi imposible traducirla en el lenguaje. Existen más de 60 términos para describir sus cualidades según el Cuestionario del Dolor de McGill (del nombre de la universidad canadiense donde se desarrolló para facilitar la comunicación entre los médicos y sus pacientes (ibidem, p.26). "Resulta tan individual y solitario como la plegaria o el sueño." (ibidem, p.18). Es desagradable y puede interrumpir el flujo de nuestros pensamientos, dependiendo de su intensidad y de nuestro estado mental general y, de todos modos genera una reflexión y diversos pensamientos (especialmente la búsqueda de su causa y del modo de remediarlo).

"La capacidad de experimentarlo funge como una estrategia de protección o conservación corporal que contempla numerosas variables medioambientales. Va más allá de la respuesta fija, automática y refleja que ofrece la capacidad de detectar daño." (ibidem, p.120)

A futuro se proyecta llegar a sistemas híbridos que permitan a una IA "sentir" dolor también de otro modo: 

"Cortical Labs ha desarrollado un sistema que combina neuronas cultivadas en laboratorio con hardware de silicio y permite explorar aplicaciones que van desde la neurociencia y la modelización de enfermedades hasta la robótica y la inteligencia artificial. (...)

Permite a los usuarios interactuar directamente con las neuronas, enviar señales eléctricas como entrada e interpretar en tiempo real cómo responden las células. (...)

Como las neuronas se obtienen a partir de muestras de donantes, pueden reflejar rasgos genéticos y permitir así que los científicos estudien cómo responden las células a distintos tratamientos en un entorno controlado." (Min)

Así, sería teóricamente posible investigar la respuesta al dolor y los tratamientos para mitigarlo. Podría ser una forma inteligente pero, aún así, sería difícil considerarla como una experiencia mental similar a la humana. Y un complemento extraño: para el ser humano lograr que el dolor desaparezca produce placer (Fajardo, p,103). Dudo que un robot pueda llegar a "sentir placer" al resolver la situación que podría calificar como dolorosa. 

Referencias

Fajardo, D.: Carne doliente, Ariel, 2025.

Lewis, C.S.: El problema del dolor, Harper-Collins, 2006 (Original de 1940).

Min, R.: Una startup utiliza neuronas humanas para alimentar un centro de datos, Euronews, 4/04/2026.