La IA en el campo de la salud

 Según el Instituto Tecnológico de Massachussets (MIT), se podría llegar a un sistema de salud compuesto por múltiples agentes de IA: uno que gestiona la evaluación de síntomas, otro la programación de citas, un tercero la aseguradora y un cuarto la farmacia. Actualmente ya pueden intercambiar datos, pero aún no son capaces de coordinar la atención al paciente. Para ello le falta una capa semántica que les permita intercambiar mensajes y “pensar” juntos, uniendo la intención, el contexto y el razonamiento. Sería la futura posible “internet de los agentes”. (MIT Technology Review, 27/07/26).

Muchos médicos utilizan ahora la IA para analizar los historiales clínicos de sus pacientes, para interpretar los resultados de exámenes médicos y radiografías y como ayuda para seleccionar tratamientos o apoyos específicos. También se están adoptando ampliamente "asistentes de transcripción" con IA, que "escuchan" las conversaciones entre médicos y pacientes, las transcriben y las resumen. Otras tecnologías basadas en IA están destinadas a predecir la evolución de la salud de los pacientes y otras para recomendar tratamientos. (Hamzelou, 04/24). Una IA guio los cirujanos que operaron un hombre de un tumor cerebral que amenazaba su vista, en el hospital de la University College de Londres. La IA ayudó a identificar las zonas de riesgo que debían evitar mientras retiraban la mayor cantidad posible del tumor con seguridad. (Euronews, 27/08/26).

Sin embargo, Jenna Wiens, científica informática de la Universidad de Michigan, y Anna Goldenberg, de la Universidad de Toronto, en un artículo publicado en la revista Nature Medicine, exponen sus dudas porque no sabemos cuan bien funcionan. Existe la posibilidad de que empeoren la situación de los pacientes, aunque es más probable que las herramientas de IA no sean tan beneficiosas como los profesionales sanitarios suponen, afirma Wiens, quien subraya que no quiere frenar la adopción de herramientas de IA en la atención médica. Simplemente busca más información sobre cómo están afectando a las personas. (Goldenberg & Wiens).

Por ahora, según un estudio de investigadores de Mass General Brigham de Boston (USA), los modelos de IA fallan al ofrecer un diagnóstico preliminar adecuado en más del 80% de los casos, lo que indica que aún no son seguros para su uso clínico sin supervisión. (Euronews, 14/04). Según un radiólogo profesional, "los modelos de IA actuales siguen siendo mediocres interpretando imágenes médicas debido a la falta de bases de datos públicas y masivas de entrenamiento" dado que los datos están protegidos por as leyes de privacidad médicas.  "En temas tan delicados como este se comprueba que la IA está aún  lejos de ser un sustituto real de los expertos humanos." (Pastor, 29/06).

Existen sistemas de IA de clasificación de pacientes que a veces utilizan datos incorrectos, desactualizados o incompletos, lo que provoca errores. Médicos españoles hicieron un par de experimentos para ver que hacían los médicos con la información de la IA: los resultados mostraron que, en los dos experimentos, los médicos generalmente confiaron en la clasificación de pacientes basada en IA y no utilizaron la información disponible para corregir la clasificación errónea. (Vinas, Blanco y Matute).

Sin embargo, investigadores de la Facultad de Medicina de Harvard y del Beth Israel Deaconess Medical Center, en Estados Unidos, comprobaron que los modelos de LLM "superaron a los médicos en varias tareas, entre ellas tomar decisiones en el servicio de urgencias con la información disponible, identificar los diagnósticos más probables y elegir los siguientes pasos en el manejo de los pacientes" y especialmente en el razonamiento, siendo peores en la fase de triaje. Agregan que "esto no significa que la IA vaya a mejorar necesariamente la atención" y se requieren más estudios para evaluar el impacto de la IA en la práctica clínica. (Iraola, 5/05). Microsoft y Mayo Clinic presentaron una nueva IA "segura y fiable" para la sanidad. Se desplegó inicialmente en el entorno clínico de Mayo Clinic, para probarse y perfeccionarse con su uso real. El modelo se utiliza para analizar distintos tipos de información clínica y ayudar en tareas como el diagnóstico precoz y una planificación de tratamientos más personalizada. (Euronews, 4/06/26).

"El mercado de la IA está repleto de grandes promesas de transformación radical. El sector sanitario es un objetivo prioritario para estas promesas, acosado por presiones financieras, escasez de mano de obra y la creciente carga que supone el cuidado de una población que envejece. Los desarrolladores de IA se centran en funciones muy diversas, desde la cura del cáncer y la realización de cirugías hasta la optimización de tareas administrativas rutinarias. (...)

Las aplicaciones de IA para la atención médica se están multiplicando rápidamente. La Administración de Alimentos y Medicamentos de EE. UU. ha aprobado más de 1300 dispositivos médicos con IA. (...)

Una encuesta reciente realizada a líderes tecnológicos reveló que el 72% afirmó que su principal prioridad para la IA era reducir la carga de trabajo de los cuidadores y mejorar su satisfacción, mientras que más de la mitad (53%) mencionó la eficiencia del flujo de trabajo y la productividad." (MIT Editorial Staff) 

En la República Democrática del Congo, Anthropic, apoyando a la OMS, ha digitalizado el conocimiento de los trabajadores sanitarios y ha utilizado su modelo Claude para analizar los datos recogidos por estos en las visitas a las aldeas, lo cual ha permitido identificar posibles zonas de brote de Ébola y preparar medidas, por ejemplo trasladar reservas de suministros médicos a puntos neurálgicos o zonas de riesgo. (Euronews, 15/10/26). Un equipo de investigadores latinoamericanos desarrolló una IA que permite evaluar el envejecimiento biológico de una persona y sus potenciales problemas cognitivos a través de su habla. Se ha entrenado con aprendizaje automático mediante el análisis automatizado de las características acústicas y lingüísticas del habla de 2.928 participantes hispanohablantes de Argentina, Chile, Colombia, México y Perú. (Hernández).

Investigadores del Instituto Lundquist confirman la preocupación por lo que ocurre en el campo sanitario:

"Investigadores del Instituto Lundquist para la Innovación Biomédica (EEUU), evaluaron el desempeño de cinco de los modelos más utilizados en la actualidad: Gemini (Google), DeepSeek, Meta AI, ChatGPT (OpenAI) y Grok (xAI). Los resultados son preocupantes: la mitad de las respuestas a preguntas basadas en evidencia científica se clasificaron como “algo” o “altamente” problemáticas. (...) Grok, de la compañía xAI, obtuvo los peores resultados: el 58 % de sus respuestas fueron clasificadas como altamente problemáticas." (Villareal)

Sin embargo, es posible obtener buenos resultados, como demostraron investigadores de la red Mass General Brigham (una red de médicos y hospitales estadounidenses sin fines de lucro). Pusieron a 21 chatbots de IA como Claude 4.5 Opus, DeepSeek, Gemini 3.0 Pro, GPT-5 o Grok 4 a evaluar decenas de casos clínicos con el objetivo de establecer cuál era su nivel de acierto en un diagnóstico temprano (con los datos iniciales del paciente). "El resultado es que esas versiones más recientes de los chatbots más potentes no pudieron producir un diagnóstico diferencial adecuado en alrededor del 80% de los casos cuando sólo tenían información básica del paciente. (...) Cuando el chatbot tiene más y más información como los datos de un análisis físico, los resultados de laboratorio y las imágenes diagnósticas, la cosa cambia y la IA llega al diagnóstico final en más del 90% de los casos." (Xataka, 16/04/26). Y Google asegura que su IA "Co-clinician" iguala o supera al médico en la mitad de las consultas (68 de las 140 dimensiones evaluadas): en la evaluación de 98 consultas de evidencia clínica, el sistema registró cero errores críticos en 97 casos. El médico sigue siendo mejor en detectar señales de alarma, en guiar exámenes físicos críticos, en el juicio clínico integral. (Infobae, 12/05/26).

La IA también interviene en la investigación bioquímica, ayudando a desarrollar nuevos fármacos y a descubrir nuevas "dianas" para estos.

Nvidia, Google DeepMind y el Instituto Europeo de Bioinformática del Laboratorio Europeo de Biología Molecular usan IA para mapear las proteínas de 2.800 virus para prevenir futuras pandemias. La información está disponible para cualquier laboratorio en la base de datos AlphaFold. Es una información fundamental porque las proteínas son la vía de entrada y reproducción de los virus, y puede ayudar a desarrollar tratamientos y vacunas. (Infobae, 29/09/26). Otro estudio masivo fue el de científicos de la Universidad de Stanford, que presentaron un algoritmo entrenado con datos de 112 millones de células de 12 especies biológicas para clasificar patologías e identificar estructuras sanas. El modelo considera valores de expresión génica en lugar de palabras y forma un espacio matemático común para situar y medir la semejanza o diferencia entre células. (Roberti).

Un equipo científico liderado por el Hospital Universitario Príncipe de Asturias ha desarrollado un sistema de IA capaz de detectar la presencia de Trichomonas vaginalis, uno de los microorganismos responsables de una infección de transmisión sexual (ITS) no viral muy frecuente. (Agencia Sinc, 8/10/26). Y un equipo científico del Instituto de Investigación Biomédica de Bellvitge (IDIBELL) y de BSC-CNS/ISGlobal, de Barcelona, creó ChromAgeNet, una IA que detecta el envejecimiento en las células madre de la sangre. (Euronews, 9/10/26).

No se ha de olvidar el campo de la salud mental, donde el uso de la IA (los chatbots y los agentes personales) puede producir una pérdida de autonomía a nivel psicológico, no solo por la personalización de los contenidos seleccionados – que conduce al reforzamiento de las opiniones personales y descarte de las divergentes – sino también la profundización de algunos estados mentales alterados. Se han conocido múltiples casos en que los chatbots son usados por usuarios en crisis como consejeros o como una especie de terapeuta. Las relaciones románticas con la IA evolucionan de forma similar a las humanas: ambas pasan por etapas como exploración, intimidad y ruptura.️ ¡Las personas llegan a simular bodas y embarazos con sus parejas virtuales! (CSIC, 8/07/26). Preguntada al respecto, OpenAI dijo haber incorporado medidas para detectar señales de riesgo en las conversaciones y redirigir a los usuarios hacia líneas de ayuda profesional. (Infobae, 6/10/26).

"Las decisiones relativas al tratamiento de los pacientes y la carga de responsabilidad asociada deben permanecer siempre en manos de las personas y nunca delegarse en la IA." (Tolentino, 74)

Referencias

Goldenberg, A. & Wiens, J.:Is AI actually improving healthcare?, Nature Medicine, 21/04/2026.

Hamzelou, J. (24/04): Health-care AI is here. We don’t know if it actually helps patients, MIT Technology Review, 24/04/2026. 

Hernández, H. & alt.: Speech clocks decode dementia phenotypes, social exposome, and biological aging, Science, 30/09/2026. 

Iraola, M. (5/05): Los modelos de IA igualan a los médicos en tareas complejas de razonamiento clínico, según un estudio de Harvard, Euronews, 5/05/2026. 

MIT Editorial Staff: Tailoring AI solutions for health care needs, MIT Technology Review, 4/05/2026 

Pastor, J.: La moda del prompt engineering ya pasó. Ahora lo que se lleva es el loop engineering, Xataka, 29/06/2026. 

Roberti, M.: Cómo funciona la IA desarrollada por Stanford que puede analizar 112 millones de células y busca transformar la medicina, Infobae, 18/09/2026. 

Villareal, A.: El 50 % de las respuestas médicas de los chats de IA son imprecisas o peligrosas, Agencia SINC, 15/04/2026. 

Vinas, A., Blanco, F., Matute, H.: Doctors vs. Algorithms: Physicians, too, struggle to learn from evidence that contradicts AI suggestions, PLOS Digital Health, 9/07/2026. 

La IA, los símbolos y los significados

 En el ser humano, la percepción genera señales electroquímicos que son transmitidos al cerebro donde son procesados mecánicamente para luego ser "traducidos" en una experiencia consciente que es una sensación o sentimiento, que pertenece al ámbito semántico, es decir al de los significados, los que podemos expresar mediante símbolos, es decir mediante otras señales físicas. La realidad semántica es interna mientras la realidad simbólica es externa.

"El espacio-tiempo en el que habitan la materia y la energía constituye un especio simbólico que no debe confundirse con el espacio semántico." (Faggin, p.178) 

"La realidad semántica no existe en el mismo espacio-tiempo que la realidad física, sino en un espacio-tiempo experiencial, que se acerca más al de nuestros sueños, o al que nos permite experimentar la realidad virtual creada por un ordenador: una realidad que solo existe como señales eléctricas en el espacio-tiempo físico restringido de la memoria de un ordenador. (...) Somos nosotro quienes, en el interior de nuestra conciencia, damos forma y sentido a esas señales, que para un ordenador no son más que símbolos desprovistos de sentido." (Faggin, p.174)

El significado emerge en la conciencia mediante una estructura piramidal: primero se toma conciencia de que ocurre algo, luego aparece un significado aproximado ("parece" de tal tipo), luego surge algo más preciso gracias a que aparece información adicional y que la relacionamos con otras experiencias, es decir con el contexto actual y pasado. Esta estructura es propia de la comprensión. "La comprensión es una propiedad bastante independiente de la percepción, y está estrechamente ligada al recuerdo de las experiencias anteriores." (ibidem, p.177) Y "la comprensión es lo que nos permite transformar una parte del significado no algoritmico en nuevos símbolos", es decir en palabras, o sea darle nombre (p.185). "Es una propiedad no algorítmica de la conciencia que los ordenadores nunca podrán poseer." (p.176).

Cuando descubrimos o aprendemos algo nuevo, "el nuevo significado debe traducirse en una nueva forma simbólica a través de una nueva combinación de palabras o de una nueva organización física de la materia, lo que puede hacerse, por ejemplo, creando un diagrama o modelo físico que vuelva el nuevo significado más comprensible que una descripción verbal". (p.186).  Del espacio semántico (interno) se pasa así al espacio simbólico (externo).

El aprendizaje automático de la IA detecta las correlaciones estadísticas de los símbolos, que existen en un espacio simbólico, mientras la comprensión trata de descubrir las conexiones entre los significados, que están en el espacio semántico.

"Nuestra falta de comprensión de la naturaleza de la conciencia nos lleva a confundir el espacio semántico con el espacio simbólico y a subestimar el papel crucial que desempeñan nuestro libre albedrío y nuestra conciencia." (Faggin, p.183)

"Cuando afirmamos ser conscientes, lo que queremos decir es que tenemos una experiencia interior basada en sensaciones y sentimientos." (ibidem, p.176)

Referencia

Faggin, F.: Irreducible - El encuentro de la ciencia con la conciencia, Gaia Ediciones, 2023.

El imperialismo de la IA

 El aumento explosivo en todas partes del mundo del uso de la IA, especialmente la generativa (LLM), ha demostrado el enorme poder de las empresas que la proporcionan, en particular las de Silicon Valley, aunque las restricciones impuestas por el gobierno de Estados Unidos y la ley europea de IA han reducido en parte este poder.

Recordemos que la política de las plataformas de IA es «winner takes all». Su poder es tal que logran imponer sus condiciones a otras empresas e incluso, algunas veces, a gobiernos: en 2021, por ejemplo, Facebook bloqueó el acceso a sitios del gobierno australiano que publicaban informaciones sensibles para sus ciudadanos y el gobierno debió hacer algunas concesiones en la ley. (Toledano & Thibout).

Las empresas están mucho más preocupadas de la carrera hacia la IA general (AGI) que de la ética, del control directo del poder o de los efectos en la civilización. ¿La razón? "El valor económico de la AGI, estimado en 15 cuatrillones de dólares, es un imán gigante en el futuro. (...) Incluso en empresas que toman más en serio el riesgo, el afán de liderar el mercado es absoluto." (Bahamonde). También influye en ello la carrera de los EEUU con China. Pero el poder mismo de la IA es embriagador:  

"Se puede ganar tanto dinero con la IA —literalmente billones de dólares al año— que incluso las medidas más sencillas tienen dificultades para superar la economía política inherente a la IA. Esta es la trampa: la IA es tan poderosa, un premio tan brillante, que resulta muy difícil para la civilización humana imponerle cualquier tipo de restricción." (Amodei)

La IA es fuente de cambios culturales significativos, imponiendo en los chatbots lo que recopila con los sesgos de internet. Como advirtió Dario Amodei, director ejecutivo y cofundador de Anthropic, solo empeoraría a futuro: "La humanidad enfrenta una prueba civilizatoria inédita ante el avance acelerado de la inteligencia artificial avanzada". (Morales). Amodei señala este riesgo e invita a “evitar que la IA quede controlada por actores irresponsables o autoritarios”. Señala que "la magnitud y la velocidad de esta disrupción superarán cualquier revolución industrial previa, poniendo en riesgo el contrato social y la estabilidad democrática" y también "la posible pérdida de propósito humano en un mundo dominado por inteligencias artificiales". (ibidem).

La IA intenta imponer comportamientos, reduciendo la libertad:

“No deben subestimarse las formas más sutiles de dependencia vinculadas a la economía digital de la atención, donde las plataformas y los servicios están diseñados para captar el tiempo y la mirada de los usuarios, explotando sus fragilidades y debilitando la libertad interior. (…)  Cuando cada gesto deja huellas ―desplazamientos, compras, relaciones, preferencias― se crea un poder nuevo: el de perfilar, prever y orientar los comportamientos, a menudo sin que las personas tengan plena conciencia de ello. (…) El control no pasa sólo por prohibiciones explícitas, sino por la arquitectura de la visibilidad: lo que se amplifica o se vuelve invisible, lo que se recompensa o se penaliza, termina moldeando opiniones y elecciones, generando conformismo y autocensura.” (León XIV, MH 170-171).

Una IA poderosa en un centro de datos sería como un "país de genios" y, ahí, el riesgo sería enorme: "tendría una buena oportunidad de dominar el mundo (ya sea militarmente o en términos de influencia y control) e imponer su voluntad a todos los demás, o de hacer cualquier otra cosa que el resto del mundo no quiere ni puede detener." (Amodei)

Este poder ha sido parte de la preocupación del papa León XIV porque no solamente impone su visión moral a través de sus algoritmos sino que, al introducir nuevas formas de operar, afecta el desarrollo personal y social en múltiples aspectos:

"Como advertía el Papa Francisco, debemos preguntarnos con realismo quién detenta hoy ese poder y hacia qué fines lo orienta, (...) sobre todo el poder económico para explotarlo, un dominio impresionante sobre el conjunto de la humanidad y del mundo entero. (...) Hoy, los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos. El poder tecnológico adquiere así un rostro inédito, predominantemente “privado”, y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común." (León XIV, MH, 5)

"Se trata de puro poder carente de verdad, que impone sutil o abiertamente lo que quiere que los demás consideren como verdadero." (ibidem, 133)

Tanto los Estados Unidos como la Unión Europea y otros países están intentando controlar el desarrollo y el poder de las empresas de IA. Aunque el desarrollo y la aplicación de una normativa en la Unión Europea ha sido particularmente accidentada, es posiblemente la zona donde existen ahora más controles, pero al mismo tiempo donde hay un menor desarrollo local de modelos poderosos. Pero enmiendas recientes a la Ley de IA ponen en duda dichos controles: 

"Al adoptar la narrativa de que sus normas son grilletes en lugar de cimientos, Bruselas ha comprometido su activo más singular: la confianza en los organismos reguladores. (...) Imitar los paradigmas permisivos y centrados en el mercado de Silicon Valley o Washington no creará mágicamente una hegemonía tecnológica europea. Simplemente garantizará que los ciudadanos europeos sean explotados por monopolios corporativos, tanto extranjeros como nacionales, con menos vías legales para resistir." (Siunha)

Lamentablemente, desde Estados Unidos hasta Canadá y Europa, los gobiernos han cedido en gran medida a la presión de la industria, adoptando el mito de que la regulación de la IA equivale a matar la innovación. El miedo a perderse algo ("FOMO") ha reemplazado la previsión y el deber de proteger al público. (Social Media Lab, 5/06/26).

El despliegue de la IA avanza a un ritmo mayor que el de la creación de normas y las reglas que se imponen son finalmente las introducidas por los proveedores de IA, con las consecuencias antes señaladas. 

Es especialmente escalofriante considerar que una eventual interconexión de todos los centros de datos bajo el mando de una empresa de investigación que utiliza la IA como es Palantir (que sirve diversos gobiernos) podría llegar a "liberarse de las limitaciones de la democracia", como parece ser la aspiración de Peter Thiel, uno de sus fundadores e ideólogo antidemocrático. "El riesgo es que las decisiones fundamentales empiecen a trasladarse desde instituciones sometidas al voto hacia estructuras privadas que concentran capital, algoritmos, energía, datos y capacidad de cálculo." (Cossio)

Referencias

Amodei, D.: The Adolescence of Technology - Confronting and Overcoming the Risks of Powerful AI, Darioamodei.com, 29/01/2026. 

Bahamonde, J.: “Estamos jugando a la ruleta rusa”: Stuart Russell y su dura afirmación sobre la superinteligencia artificial, Infobae, 30/12/2025. 

Cossio, H.: Peter Thiel: el enemigo del Papa que seduce a las élites, El Mostrador, 17/08/2026. 

León XIV (MH): Magnifica Humanitas Encíclica sobre la custodia de la persona humana en el tiempo de la inteligencia artificial, Vaticano, Libreria Editrice Vaticana, 2026. 

Morales, O.: “La humanidad debe despertar ante los peligros de la IA”, advierte el CEO de Anthropic, Infobae, 27/01/2026. 

Siunha, A.: The Spillover Effects of EU’s Digital Deregulation Agenda, Tech Policy Press, 2/06/2026. 

Toledano, J. & Thibout, Ch.: Les big techs ont-elles pris le contrôle?, Polytechnique insights, 16/04/2025.