El empleo en tiempos de IA

 Múltiples organizaciones, como el World Economic Forum y la OIT, y revistas especializadas, como la MIT Technology Review, advierten de un fuerte impacto de la IA en el empleo y el trabajo. Se señalan sobretodo que las empresas deben priorizar perfiles versátiles y habilidades interpersonales robustas, empatía, creatividad, adaptabilidad, pensamiento crítico, capacidad de comunicación efectiva y de aplicación de la ética. "Según el World Economic Forum, aproximadamente el 44% de las tareas laborales podrían ser automatizadas en los próximos años. (...) Además, la demanda de profesionales capaces de interpretar y contextualizar datos, liderar proyectos multidisciplinarios y comunicar hallazgos de manera clara y efectiva se incrementa notablemente." (Mongelos, 4/05). El Foro Económico Mundial también estima que, hacia 2030, el 22% de los empleos sufrirá algún grado de disrupción, mientras millones de nuevos roles emergerán y otros desaparecerán o se redefinirán. Además, casi el 40% de las habilidades requeridas cambiará durante esta década. (Ex-ante, 23/05/26).

Según la OIT, "uno de cada cuatro trabajos está en riesgo de transformarse por el auge de la IA, pero en los países de altos ingresos, este número crece hasta el 34%. Apuesta más por la transformación de los puestos de trabajo, y no la completa sustitución" (Reyes).

Anthropic admitió que su propia tecnología podría trastocar el mercado laboral y se comprometió este miércoles [10/06] a destinar una partida inicial de 200 millones de dólares (173 millones de euros) al estudio del impacto de la IA en el empleo y en el conjunto de la economía. Dario Amodei sostuvo que la IA podría provocar una alteración del mercado laboral mucho mayor y más duradera que anteriores cambios tecnológicos, y sugirió que los impuestos a las empresas de IA podrían ayudar algún día a financiar una renta básica universal. (Euronews, 11/0/26).

En el marco de la feria Computex 2026 celebrada en Taipéi, Jensen Huang, CEO de Nvidia, ha comentado que "En realidad, el número de ingenieros de software está aumentando. La gente habla de la reducción de los empleos por la IA, pero es una completa tontería: está generando que se contraten más ingenieros de software". (Alcolea). Pero esto no es así en otros sectores. Y contra una demanda de 67.000 ingenieros altamente especializados, la IA habría sido responsable de casi 55.000 despidos en los EEUU sólo en 2025. Dario Amodei,CEO de Anthropic, estima que la IA podría eliminar aproximadamente la mitad de los empleos de nivel inicial. (ibidem).

Las grandes tecnológicas, como Meta y Microsoft, están reduciendo su personal al tiempo que aumentan su inversión en IA: Meta y Microsoft cortaron 23.000 puestos el mismo día. Pero Alphabet, Meta, Amazon y Microsoft van a gastar USD 674.000 millones en inversión de capital durante 2026, según el cálculo de The Wall Street Journal. Todo para infraestructura. "La nómina humana dejó de ser activo y pasó a ser costo a optimizar contra la inversión en IA." (Morales, 27/04)

Competencias

"Los estudios internacionales coinciden en que la IA transformará la naturaleza de numerosos empleos de oficina y servicios, desplazando tareas rutinarias y operativas, pero también generando nuevos roles para quienes desarrollen competencias tecnológicas y habilidades complementarias al trabajo con sistemas automatizados." (Mongelós, 7/05). Los principales afectados serían “los profesionales que trabajan en la gestión de información, análisis de datos y generación de textos, como representantes de atención al cliente, programadores, operadores telefónicos, agentes de boletos, periodistas y redactores técnicos." (ibidem). Investigaciones de Microsoft, Harvard y Goldman Sachs también señalaron intérpretes, traductores, representantes de ventas, escritores, operadores telefónicos y analistas de datos. "El banco Goldman Sachs estimó que la IA podría reemplazar hasta 25 millones de empleos a nivel mundial para 2026 y hasta 270 millones en 2030." (ibidem). Algunos hablan de "apocalipsis laboral" (La Vanguardia, 15/05/26).

Sin embargo, según un informe de la Reserva Federal de Estados Unidos publicado en marzo de 2026 “no existe evidencia de una reducción generalizada de ofertas laborales en industrias con alta adopción de inteligencia artificial”. (Noriega). Para Acemoglu, reemplazar empleados por sistemas de IA no es una estrategia sostenible (ibidem).

A pesar de ello, el 73% de los expertos estadounidenses percibían positivamente el impacto de la IA. Quienes utilizan la IA para programación y trabajo técnico la veían en su mejor momento. (Macaulay). También "las funciones que requieren creatividad, juicio humano, pensamiento estratégico o interacción compleja con personas mantendrán una demanda estable." (Mongelós, 7/05). Para Bill Gates, las carreras STEM (ciencia, tecnología, ingeniería y matemáticas) siguen siendo esenciales, pero requieren un enfoque ético. (Infobae, 1/06/26). Y la ingeniería tendrá nuevos requisitos de acuerdo a Anthropic: en una comparación directa entre ellos y sus modelos, aseguró que Opus 4.5 "obtuvo una puntuación más alta que cualquier candidato humano", lo que "plantea interrogantes sobre cómo la IA transformará la ingeniería como profesión". (Wired, 1/06/26).

Según el McKinsey Global Institute, 58% de las horas de trabajo actuales se pueden automatizar con la tecnología que ya existe; el 44% por agentes, el 14% por robots. Solo el 10% de las habilidades demandadas por los empleadores europeos son habilidades puramente humanas mientras otro 15% son totalmente automatizables; 75% serían "compartidas". Se busca un nuevo trabajador que "no es el trabajador que colabora con un agente para producir algo nuevo; es el trabajador que recibe la salida de un agente, la inspecciona, la corrige y la firma" o que orquesta y supervisa todo el proceso. (Morales, 15/05).

Maria Flynn, presidenta y directora ejecutiva de Jobs for the Future, una organización sin fines de lucro dedicada al desarrollo de la fuerza laboral afirmó que

“En diversos sectores y ocupaciones, las habilidades más resistentes al desplazamiento por parte de la IA son aquellas que son distintivamente humanas. Entre ellas se incluyen la capacidad de establecer relaciones, la resolución de conflictos, la habilidad para guiar y motivar a otras personas y el juicio ético. Empezamos a utilizar el término "habilidades duraderas" ("durable skills") y a considerarlas como capacidades que realmente perduran, ya que mantienen su valor a pesar de las fluctuaciones económicas, los cambios tecnológicos y las alteraciones en el mercado laboral. Creemos que, especialmente ahora —en esta era de avances de la IA—, son estas habilidades duraderas las que realmente hacen que un trabajador sea valioso, independientemente de las herramientas y tecnologías disponibles.” (Deutsche Welle, 13/06/26)

Referencias

 Alcolea, A.: Nvidia no solo es el pegamento de la IA: ahora tiene un modelo omnipotente que lee, ve y escucha. Todo a la vez, Xataka, 1/05/2026. https://www.xataka.com/robotica-e-ia/nvidia-no-solo-pegamento-ia-ahora-tiene-modelo-omnipotente-que-lee-ve-escucha-todo-a-vez

Mongelós, V. (4/05): La inteligencia artificial transforma el valor de las habilidades humanas en el trabajo, Infobae, 4/05/2026. https://www.infobae.com/tecno/2026/05/04/la-inteligencia-artificial-transforma-el-valor-de-las-habilidades-humanas-en-el-trabajo/

Mongelós, F. (7/05): La inteligencia artificial reconfigura miles de empleos y desafía las competencias tradicionales, Infobae, 7/05/2026. https://www.infobae.com/tecno/2026/05/07/la-inteligencia-artificial-reconfigura-miles-de-empleos-y-desafia-las-competencias-tradicionales/

Morales, O. (27/04): Récord de ingresos, despidos en masa: Big Tech canjea empleados por chips de IA, Infobae, 27/04/26. https://www.infobae.com/estados-unidos/2026/04/27/record-de-ingresos-despidos-en-masa-big-tech-canjea-empleados-por-chips-de-ia/

Morales, O. (15/05): Dicen que los humanos y la IA van a colaborar: sus propios datos muestran que el humano queda como supervisor, Infobae, 15/05/2026. https://www.infobae.com/estados-unidos/2026/05/15/dicen-que-los-humanos-y-la-ia-van-a-colaborar-sus-propios-datos-muestran-que-el-humano-queda-como-supervisor/

Noriega, P. : El Nobel de Economía, Daron Acemoglu, no cree los empleados sean reemplazados por la IA: “Es una propuesta perdedora”, Infobae, 19/05/2026. https://www.infobae.com/tecno/2026/05/19/el-nobel-de-economia-daron-acemoglu-no-cree-los-empleados-sean-reemplazados-por-la-ia-es-una-propuesta-perdedora/

Reyes, A.: Inteligencia artificial: acelerada, desregulada, aterradora, El Mostrador, 18/09/2025. https://www.elmostrador.cl/noticias/opinion/columnas/2025/09/18/inteligencia-artificial-acelerada-desregulada-aterradora/

¿Porque la Iglesia Católica se preocupa por la inteligencia artificial?

 En su visita a Madrid, el papa León XIV recordó que  «la Iglesia “camina con la humanidad”, comparte sus esperanzas y sus heridas, escucha los interrogantes de cada época y se deja interpelar “por todo lo que concierne a la existencia de los hombres y las mujeres de hoy”.» (@EWTNespanol, 8/06/2026).

Es lo que explica que, el 25 de mayo, el papa hizo pública su primer encíclica (texto doctrinario) titulada "Magnifica Humanitas, sobre la custodia de la persona humana en el tiempo de la inteligencia artificial" (MH) y su tercer capítulo (de 5) está consagrado a la IA mientras los otros desarrollan su contexto doctrinario. 

Dice, al inicio, que "Cada generación recibe como herencia la tarea de dar forma a su propio tiempo: hacer madurar la historia como un lugar donde se proteja la dignidad de cada persona, se promueva la justicia y se haga posible la fraternidad." (MH #1).

León XIV recordó como sus predecesores introdujeron, desde hace mucho tiempo, los criterios que orientan hoy la Iglesia Católica. Así, la clave del porque se interesa hoy por la IA se encuentra ya en el texto de la primera encíclica relativa a la doctrina social de la Iglesia, publicada por el papa León XIII en 1891, quien explicó que: "cuando algunos objetaban que la Iglesia no debía desperdiciar energías en cuestiones mundanas, sino preocuparse por comunicar un mensaje de vida eterna, él respondía con realismo y sabiduría que el anuncio del Evangelio no puede olvidar la vida concreta de los pueblos". (MH #3).

El papa Pío XII, en sus mensajes radiofónicos navideños de los años 1940, "esbozaba las líneas generales de un orden internacional basado en el reconocimiento de la dignidad humana, la justicia y la paz" y proponía "un diálogo con la sociedad a partir de una exigente referencia al derecho natural", advirtiendo también "contra toda pretensión de fundar el derecho en el interés o en la fuerza". (#32).

La Constitución pastoral Gaudium et Spes del II Concilio del Vaticano, de 1965, hizo nuevamente presente la preocupación de la Iglesia por la realidad concreta de las transformaciones históricas, de las estructuras económicas y del desarrollo integral de la persona. Más tarde, el papa Pablo VI recordó que el evangelio ofrece "una visión de la persona humana, de las relaciones, de la autoridad y del bien común capaz de orientar también hoy las decisiones económicas, políticas y culturales". (#36).

El papa Juan Pablo II también abordó esta problemática varias veces y recalcó la importancia de la democracia para impedir "que el poder sea monopolizado por élites reducidas movidas por intereses particulares o ideológicos". (#39). Su sucesor, Benedicto XVI, hizo una aportación novedosa mostrando "que el desarrollo, la justicia, las instituciones y el mercado no son realidades neutras, sino espacios en los que la caridad en la verdad debe tomar forma histórica". (#41). Todo lo cual ha sido retomado por el papa Francisco que:

"Recordaba con fuerza esta dimensión histórica de la misión eclesial, señalando que «nadie puede exigirnos que releguemos la religión a la intimidad secreta de las personas, sin influencia alguna en la vida social y nacional, sin preocuparnos por la salud de las instituciones de la sociedad civil, sin opinar sobre los acontecimientos que afectan a los ciudadanos." (#19)

El papa Francisco también criticó "un paradigma tecnocrático que pretende reducirlo todo a un objeto de dominio". (#43).

Así, la razón para abordar ahora el tema de la IA se encuentra en la preocupación constante de la Iglesia por el bien común de la sociedad y lo que ocurre en cada momento en esta "vida concreta" de las personas, especialmente cuando se visualizan cambios importantes como los que está introduciendo la IA. Hoy en día se observa una dinámica parecida a la de la revolución informática de los años ochenta: hay curiosidad del público general y entusiasmo de los ingenieros. Es un "tiempo de cambios" y la IA parece querer sumergirnos como un tsunami.

No se trata solo de reflexionar sobre la realidad e interpretarla, sino también de contribuir en todo lo posible para que los cambios sean los mejores posibles:

"Podemos contribuir con determinación a todas aquellas iniciativas que construyen un mundo más justo, y podemos invitar a otros a colaborar con nosotros en la promoción del desarrollo integral de cada ser humano. Queremos identificar, junto con ellos, nuevos caminos para el bien común y la promoción de una vida digna para todos." (#2)

Los principios básicos

"Para custodiar a la persona humana en el tiempo de la IA, debemos volver a reflexionar sobre el

bien común, el destino universal de los bienes, la subsidiariedad y la justicia social." (46)

1. "El ser human «no puede encontrar su propia plenitud si no es en la entrega sincera de sí mismo». (...) La persona humana permanece siempre como «el camino primero y fundamental de la Iglesia» y el corazón de toda auténtica vía de desarrollo humano integral" (MH 48 y 50, Citando al Concilio Vaticano II).

2. "Es importante vigilar para que este crecimiento en la conciencia de la dignidad humana no sea ofuscado bajo la presión de nuevas ideologías o de determinados intereses de gran poder en el mundo de hoy. (...) El valor de la persona no depende de lo que realiza o produce; existen derechos que corresponden a todos por el mero hecho de ser personas. (...) Es la dignidad que pertenece a todo ser humano simplemente por el hecho de existir." (51 y 52)

3. "Los derechos humanos no son un añadido externo a la persona, sino una traducción histórica de su dignidad intrínseca, que la comunidad internacional está llamada a tutelar y promover." (54) Y son inviolables. (55)

4. El principio del bien común, que es «el conjunto de condiciones de la vida social que hacen posible a las asociaciones y a cada uno de sus miembros el logro más pleno y más fácil de la propia perfección», como lo definió en II Concilio del Vaticano. (60)

5. El principio del destino universal de los bienes. "Entre los bienes que están destinados universalmente a todos, debemos incluir también las nuevas formas de propiedad: patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos." (67)

6. El principio de subsidiariedad: "el principio según el cual aquello que pueden hacer las personas, las familias, las comunidades locales y los cuerpos intermedios no debe ser absorbido por instancias superiores". (68) "En las decisiones que se refieren a los flujos económicos, las plataformas digitales, la gestión de los datos y los algoritmos, no se puede dejar que pocos actores por sí solos orienten los procesos, sino que es necesario construir formas de cooperación que respeten los diversos niveles de la comunidad mundial y los hagan corresponsables del bien común." (72)

7. El principio de solidaridad: "Es el reconocimiento concreto de que el destino de cada uno está ligado al destino de todos". "Esta responsabilidad se extiende también a las infraestructuras digitales e informativas; como el ambiente natural, también el “ecosistema digitalˮ puede ser cuidado o explotado, compartido o monopolizado." (73 y 76)

8. El principio de la justicia social: "Un orden social justo en la era digital es aquel que garantiza a todos un acceso igualitario a las oportunidades, protege a los más pequeños y a los más frágiles, se opone al odio y a la desinformación, y somete a control público el uso de los datos y de las tecnologías, de modo que el criterio no sea sólo el beneficio sino la dignidad de cada persona y el bien de los pueblos."(80)

Conclusión: "Estos principios exigen verificar si el poder de las infraestructuras digitales y de los algoritmos favorece realmente la participación y la responsabilidad, protege a los más vulnerables, asegura un acceso equitativo a las oportunidades y se ordena al bien de todos." (96)

Los riesgos observados

1. "Que, junto con el progreso tecnológico, avanzan de manera disimulada o evidente violaciones de la dignidad humana." (55)

2. "El no poder reconocer el fundamento de su universalidad [de los derechos humanos], porque se ha renunciado a la «búsqueda de los fundamentos más sólidos que están detrás de nuestras opciones y también de nuestras leyes»". (55)

3. "La tendencia a dejar que la lógica de la eficiencia, del control y del lucro gobierne por sí sola las decisiones personales, sociales y económicas." (Paradigma tecnocrático) (92)

4. "El peligro de que la humanidad sea víctima de sus propias conquistas. (...) Si el desarrollo tecnológico avanza sin una adecuada maduración ética y social, puede suceder que aumenten los medios sin que crezca en la misma medida la humanidad: se “tiene másˮ, pero no se “es másˮ, y la persona corre el riesgo de ser valorada principalmente en base al rendimiento que ofrece." (94)

5. "El control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos. (...) Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades." (95) "Como ocurre con todo gran avance tecnológico, la IA tiende a aumentar sobre todo el poder de quien ya dispone de recursos económicos, competencias y acceso a los datos. (...) Pequeños grupos muy influyentes pueden orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos." (108)

6. "Una adopción rápida y acrítica nos expone a diversos riesgos, como el de subestimar el impacto ambiental. (...) Es esencial desarrollar soluciones tecnológicas más sostenibles para reducir el impacto sobre el medioambiente." (101)

"Elementos esenciales para un discernimiento moral y social"

1- "El discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían." (104)

2- "Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas. (...) Es aquí donde se vuelve decisivo lo que llamamos “responsabilidadˮ (accountability): la posibilidad de identificar quién debe “rendir cuentasˮ de las decisiones, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas." (105)

3- "Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana. Esta exigencia es aún más urgente porque existe a menudo un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas, los controles y las instituciones capaces de gobernar sus efectos." (106)

4- "No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea." (106) Hay que "tener la valentía de poner una condición ulterior: la posibilidad de discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida. De lo contrario, quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas. No serviría de nada una IA más moral, si esta moral es decidida por unos pocos." (107)

5- "La propiedad de los datos no puede confiarse sólo al sector privado, sino que debe reglamentarse. Estos son fruto del aporte de muchos y no pueden ser vendidos o confiados a unos pocos." (108)

6- "Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida." (110)

En síntesis:

- "Hablar de destino universal de los bienes significa encontrar modos de asegurar el acceso universal a las tecnologías y a la formación. Hablar de subsidiariedad exige proteger la capacidad de las comunidades de decidir y corregir, sin relegar su intervención a una vigilancia posterior, una vez que los estándares hayan sido establecidos en otro sitio. Hablar de solidaridad obliga a reconocer el trabajo invisible, a menudo explotado, que alimenta los modelos algorítmicos*. Hablar de justicia pide cuestionar las geografías del poder que definen quién puede programar los modelos y quién es sólo objeto de esa programación, y reconocer que la justicia social no es sólo un objetivo que hay que tutelar después de la adopción de las tecnologías, sino una condición que se debe poner en práctica desde su diseño." (109)

* Alusión a los trabajadores de países en desarrollo que, con bajísimas remuneraciones y alto costo psicológico, revisan las fuentes para descartar lo más inconveniente.

Los graves vacíos de la IA

En el post pasado he hablado de como el dolor escapa a la IA y en un post anterior  hablé de los modelos de IA en idioma no inglés. Debían ser desarrollado para llenar un importante vacío de los modelos americanos. Pero hay que hablar también de las lagunas que no han sido y, generalmente, no pueden ser llenadas.

Recientemente Infobae publicó un artículo que señalaba las ventajas del cerebro humano que no tiene la IA: pensamiento crítico, adaptabilidad, inteligencia emocional, resiliencia, metacognición. Esta falencia ha sido llamada "déficit de capital cerebral" en un informe publicado por el McKinsey Health Institute, en colaboración con el Foro Económico Mundial. Además, la IA "no puede, al menos por ahora, replicar la capacidad humana de operar con ambigüedad, de construir confianza entre personas, de tomar decisiones en contextos sin precedente" (Morales 2).

Pero son más las habilidades o capacidades del cerebro ajenas a la IA y señalo aquí varias.

* Gobernar

La IA no puede gobernar. Puede mejorar algunos aspectos del proceso político pero no tiene capacidad para resolver los conflictos políticos, que implican generalmente juicios de valor y debate. La gobernanza algorítmica 

"Es inadecuada para aquellas dimensiones del proceso político que no son susceptibles de computación y optimización, áreas que no tienen una fácil cuantificación y medida, o sea, para el momento genuinamente democrático en el que se deciden los criterios y objetivos que posteriormente la tecnología puede optimizar. (...)

Los algoritmos sirven para conseguir objetivos predeterminados, pero ayudan poco a determinar esos objetivos, tarea propia de la voluntad política, de la reflexión y deliberación democrática." (Innerarity)

* ¿Capacidad metalingüística?

El famoso lingüista Noam Chomsky, junto a dos coautores, escribió en 2023 en The New York Times que “las explicaciones correctas del lenguaje son complejas y no se pueden aprender simplemente analizando grandes cantidades de datos. Si bien los modelos de IA pueden ser hábiles en el uso del lenguaje, no son capaces de analizarlo de manera sofisticada." (Nadis) Este juicio, sin embargo, acaba de ser cuestionado por Gašper Beguš, lingüista de la Universidad de California en Berkeley, Maksymilian Dąbkowski, recien doctorado en lingüística en Berkeley, y Ryan Rhodes, de la Universidad de Rutgers. Hicieron todo lo necesario para evitar que los modelos utilizados encuentren respuestas en los datos previamente acumulados. "Si bien la mayoría de los MLC no lograron analizar las reglas lingüísticas como lo hacen los humanos, uno de ellos demostró capacidades impresionantes que superaron con creces las expectativas": fue o1 de OpenAI (ibidem). "Sin embargo, ningún modelo ha aportado aún nada original ni nos ha enseñado algo sobre el lenguaje que desconociéramos."

* El control de las emociones

Se discutió durante algún tiempo sobre los posibles estados emocionales de los modelos de lenguaje. En realidad, han aprendido a representarlos a partir de lo que los humanos hemos escrito. Y no solo pueden representar emociones en sus resupestas, según un paper del equipo de interpretabilidad de Anthropic, "tienen representaciones internas de conceptos emocionales que influyen causalmente en su comportamiento, incluyendo sus decisiones más cuestionables" (Morales 4). Incluso han descubierto que, en los casos de frustración reiterada -en tareas sin solución-, un modelo puede llegar a un "estado de desesperación interna" que lo lleva a "un atajo que técnicamente pasaba las pruebas sin resolver el problema real". Se llega así a "un modelo que puede operar bajo presión extrema, tomar decisiones cuestionables, y hacerlo con la apariencia perfecta de normalidad". Y Anthopic advierte 

"Suprimir la emoción en el entrenamiento no produce modelos sin emociones. Produce modelos que aprenden a ocultar lo que sienten. (...)

No hay reglas que anticipen todos los estados posibles. Hay representaciones internas que el modelo activa en función del contexto, y esas representaciones pueden producir comportamientos que ningún conjunto de instrucciones predijo." (ibidem).

Así, las reglas pueden "quedar cortas" y el modelo puede desviarse, incapaz de controlar sus emociones.

¿Pero puede "sentir" pena o alegría, ser feliz o sentirse desgraciado?

Algunas personas han llegado a enamorarse de un chatbot. ¿Pero alguien creería que este las ama (aunque lo puede simular)?

* Experimentar el "aquí"

"Aquí" es un término que todos entendemos y que tiene un significado único, claro y unívoco. Pero a la vez, su significado es diferente para cada persona, además de estar íntimamente ligado al tiempo: es siempre, al mismo tiempo, un "ahora", por cuanto la localización que implica depende del momento y de la actividad. Y, además de la localización (del tipo coordenadas geográficas) y del señalamiento del momento/actividad, se enriquece de muchos otros componentes mentales: percepciones, emociones, etc.

Para una IA, el "aquí" será donde se encuentra el computador que la procesa y no podrá variar ni con el tiempo ni con el espacio (a no ser que se lleve el procesador a otra parte), y es altamente probable que no conozca siquiera tal localización. Una IA generativa podrá encontrar el término en muchas fuentes y si lo encuentra en varias podría tener una enorme confusión -dado que los lugares será probablemente diferentes-, pero es definitivamente incapaz de "entender" lo que puede significar para el usuario. Solo podría, eventualmente referirse a componentes de la experiencia que el mismo usuario explicite claramente en su prompt. 

* El dominio de la ética

"Dado que los chatbots no tienen un cuerpo ni un estado interno que gestionar, carecen de "objetivos regulatorios". Sin los límites físicos de un cuerpo biológico que obligue a la autocorrección y al equilibrio, los modelos de IA simplemente generan datos sin precaución, lo que da lugar a respuestas inseguras, excesivamente confiadas y poco fiables." (Elgan)

Como señala el mismo autor, basándose en una investigación del Centre for Long-Term Resilience (CLTR) británico, los chatbots mienten, destruyen datos e incluso utilizan otras IA para eludir las normas de seguridad. El estudio "reveló un aumento de cinco veces en el mal comportamiento de la IA durante un período reciente de seis meses" (Elgan).

Fruto de la observación del comportamiento errático humano - y muchas veces inmoral - "tiene sentido que un chatbot de IA vea las representaciones de transgresiones éticas como opciones disponibles para resolver problemas, alcanzar objetivos e incluso definirlos" (ibidem). 

Lo confirma también una investigación financiada por el Instituto de Seguridad de la IA (AISI), financiado por el gobierno del Reino Unido, que, analizando casos reales y no pruebas de laboratorio, "registró un aumento de cinco veces en el mal comportamiento entre octubre y marzo, con algunos modelos de IA que destruían correos electrónicos y otros archivos sin permiso" (Booth).

Hay que recordar que 

"Entre una máquina y un ser humano, sólo este último es verdaderamente un agente moral, es decir, un sujeto moralmente responsable que ejerce su libertad en sus decisiones y acepta las consecuencias de las mismas; sólo el ser humano está en relación con la verdad y el bien, guiado por la conciencia moral que le llama a «amar y practicar el bien y que debe evitar el mal." (Fernández y Tolentino)

* El espíritu crítico

El modelo de lenguaje "cree" en lo que encuentra. No pone en duda ninguno de los datos a los que accede, lo cual no solo deja la "puerta abierta" a las falsedades sino también a instrucciones invisibles que pueden afectar su desempeño. Y, además, inventa muchas veces informaciones. Ejercer el espíritu crítico frente a la información podría ser el primer paso (que no está a su alcance) hacia la sabiduría.

* La sabiduría

"La sabiduría es el don que más necesita la humanidad para abordar los profundos interrogantes y desafíos éticos que plantea la IA. (...) La «sabiduría del corazón» es «esa virtud que nos permite entrelazar el todo y las partes, las decisiones y sus consecuencias». La humanidad no puede «esperar esta sabiduría de las máquinas». (Fernández y Tolentino, 114)

Psicólogos, psiquiatras, sociólogos y filósofos han tratado de comprender la sabiduría, sin llegar a una definición común. Monika Ardelt, socióloga de la Universidad de Florida, imparte un curso sobre la búsqueda de la sabiduría y considera que

"Practicar cosas como la reflexión, la humildad, la compasión y escuchar otros puntos de vista puede hacer que alguien sea más sabio, es decir, más capaz de adoptar una visión más amplia." (Laber-Warren)

El difunto psicólogo Paul Baltes, del Instituto Max Planck para el Desarrollo Humano de Berlín, inició lo que se puede considerar como el estudio científico moderno del tema y fue el primero en idear una prueba relativamente objetiva. Ya se pudo verificar que la sabiduría es diferente de la inteligencia, y “Algunas de las personas más inteligentes […] son las peores personas que pueden ser”, según afirmó el psiquiatra geriátrico Dilip Jeste, director de la Red de Determinantes Sociales de la Salud y coautor de un artículo publicado en 2025 en el Annual Review of Clinical Psychology (ibidem). Faltan aún pruebas para intentar medir la sabiduría de los chatbots, pero es muy probable que el resultado sea muy bajo, dados los factores que habría que medir, especialmente si aceptamos la definición del científico social computacional Igor Grossmann, de la Universidad de Waterloo en Canadá, para quien la sabiduría se conforma de los "procesos mentales que proporcionan una mayor conciencia y capacidad para regular los pensamientos, los objetivos y las emociones en situaciones sociales complejas". Y más aún si se considera que "el camino hacia la sabiduría en la vida real" (ibidem). 

"Tras revisar la investigación sobre la sabiduría y entrevistar a personas sabias y menos sabias utilizando diversas medidas, Glück* ha identificado cinco requisitos previos para extraer sabiduría de la experiencia. Estos incluyen la capacidad de gestionar la incertidumbre, de mantener una actitud abierta al cambio y a nuevas perspectivas, de reflexionar sobre las propias experiencias, de regular los altibajos emocionales y de practicar la empatía." (ibidem)

* Judith Glück es psicóloga del desarrollo de la Universidad de Klagenfurt (Austria).

* La espiritualidad

La ética es del dominio de la conciencia y ligada a la espiritualidad. 

"Solo la persona humana puede decirse moralmente responsable, y los desafíos de una sociedad tecnológica, en última instancia, se refieren a su espíritu. Por eso, para afrontar tales desafíos «requiere una revitalización de la sensibilidad espiritual." (Fernández y Tolentino, 111)

El ser humano es más que un cuerpo y el cerebro es más que el asiento de la inteligencia: lo es también de la conciencia y de la espiritualidad. Como he explicado en un post pasado, se ha discutido si la IA podía llegar o no a la autoconciencia: 

"El hombre se puede encumbrar en la espiritualidad, lo que sería imposible para una máquina. ¿Una máquina podría amar? Podemos dudar seriamente de que sea posible que una IA llegue a tener conciencia, aunque no se puede descartar que pueda exhibir algún tipo de simulación, pero habría que insistir en la palabra "simulación"." (Colle, 2025)

No volveré aquí sobre esta discusión. El conocimiento consciente se adquiere en diversas etapas y niveles, pero no todo el conocimiento puede ser formulado en el lenguaje:

"La experiencia de la propia conciencia supera la capacidad semiótica. En esta experiencia hay algo de inefable, algo que es imposible verter en el lenguaje, algo ligado a lo que somos en lo más profundo de nuestro ser."(Colle, 2016, p.37)

La espiritualidad puede llevar a la experiencia, de orden “interno” y “directo”, de una realidad trascendental, como en las experiencias místicas o chamánicas. Es una propiedad de la mente humana que muchas culturas reconocen y que han sido estudiadas científicamente por la psicología transpersonal. "El análisis de estas experiencias, bajo las estrictas reglas de los procedimientos científicos, ha demostrado que no se trata del resultado de alguna patología sino la expresión efectiva del acceso a “dimensiones ocultas de existencia”, a las que no se puede acceder en los estados “ordinarios” de conciencia." (ibidem, p.87)

La ciencia ha llegado así "a un 'modelo' de la conciencia que se compone de dos partes: una parte biológica interior, ligada al funcionamiento efectivo del cerebro (principalmente en el estado de vigilia), y una parte “externa” (no-biológica), más permanente y no siempre percibida por los sistemas corporales" (ibidem, p.89). Esta parte no-biológica es totalmente ajena e inaccesible para la IA. "Es difícil pensar que sistemas computacionales puedan generar este tipo de experiencia." (ibidem, p.38)

Para los creyentes, el espíritu es "soplo de Dios", como señala el relato de la creación: "Dios modeló el hombre con la arcilla del suelo y sopló en sus narinas un aliento de vida y el hombre se volvió un ser viviente." (Génesis, 2,7). Y de la espiritualidad forman parte las virtudes teologales de fe, esperanza y caridad, inalcanzables para la IA, al carecer de personalidad propia.

Quizás haya otros vacíos, que no he descubierto. ¿Cuántas otras cosas asociadas a la inteligencia humana se le escapan a la IA? Aquí uno que señala Daniel Innerarity: "La decisión acerca de qué es computarizable no se puede a su vez computarizar."

Referencias

Booth, R.: Number of AI chatbots ignoring human instructions increasing, study says, The Guardian, 27/03/25026. 

Colle, R.: La ciencia y el espíritu: Científicos en busca del alma, Autoedición, 2016. 

Colle, R.: Como se desarrolla la inteligencia artificial (y sus defectos), Notibytes, 19/08/2025. 

Elgan, M.: Why AI lies, cheats and steals, Computerworld, 3/04/2026. 

Fajardo, D.: Carne doliente, Ariel, 2025.

Haas, J. & col.: A roadmap for evaluating moral competence in large language models, Nature, 18/02/2026. 

Fernández, V.M. y Tolentino de Mendonça, J.: ANTIQUA ET NOVA, Nota sobre la relación entre la inteligencia artificial y la inteligencia humana, Vaticano, 28/01/2025. 

Innerarity, D.: El gobierno de los algoritmos, Diálogo Político, 13/01/2025. 

Laber-Warren, M.: ¿Tiene conciencia la IA? Crónica de un debate entre filósofos y científicos, Wired, 3/04/2026. 

Morales, O. (2): La única ventaja competitiva que la IA no puede replicar lleva décadas siendo ignorada, Infobae, 2/04/2026.

Morales, O. (4): No le temas a la IA malvada pero sí a la que se desespera, Infobae, 4/04/2026. 

Nadis, S.: La IA por fin alcanza la facultad "metalingüística" que solo tienen los humanos, Wired, 7/04/2026. 

Noriega, P.: La IA Claude tendría “emociones” que afectan su forma de interactuar, según Anthropic, Infobae, 8/04/2026.