La responsabilidad en el mundo de la inteligencia artificial

 La IA redistribuye y complejiza la responsabilidad humana, que se reparte desde el nivel de diseño y programación hasta el despliegue y el uso. En el mundo de la IA, la responsabilidad ha de asumirse en todas las fases, tanto por parte de los usuarios como de los desarrolladores y quienes difunden los diversos modelos.

Usuarios

Para el usuario de un chatbot, lo primero es recordar que este actúa sobre la base de estadísticas, es decir de probabilidades, y que los expertos han advertido que, por ello, su naturaleza es de producir alucinaciones. El producto puede ser una oración con sentido y con alguna relación con la pregunta, pero es como el resultado de un juego de ruleta... y pocas veces acierta. Por esto dice Heaven que "todo es alucinación". "Los grandes modelos lingüísticos son máquinas tragamonedas estadísticas." (Heaven, 11/06)

Por lo tanto es irresponsable confiar en el resultado de una consulta a un chatbot sin verificar la respuesta con alguna otra fuente.

También es necesario reflexionar sobre la forma en que los modelos de lenguaje, que alimentan a los chatbots, son entrenados: a partir de todo lo que encuentran en internet y de la obtención de otras publicaciones, muchas veces infringiendo el copyright. El origen de este material quizás sea irrelevante para el usuario en relación al manejo del lenguaje (su objetivo) pero es peligroso, como recién señalado, si se presenta como fuente de información. 

"Los organismos reguladores digitales del Reino Unido han advertido a las empresas que no pueden eludir sus responsabilidades legales culpando de los errores a los agentes de IA que ellas mismas han desplegado." (Cooter)

Sin embargo, podría surgir un conflicto si un agente personal realiza una acción no deseada: ¿culpa de un mal diseño del agente o de malas instrucciones del usuario?

Desarrolladores / Redes neuronales

El procesamiento de los LLM es realizado por redes neuronales, que no se diseñan directamente: en su lugar, se diseñan los algoritmos que las entrenan, resultando en redes que no se comprenden completamente y que no pueden descomponerse fácilmente en partes identificables. Al entrenarse, las redes neuronales parecen adoptar estructuras extrañas y enredadas que resultan aún incomprensibles para un ser humano. Dice Christopher Olah, de Anthropic: 

"Se desarrollan mediante procesos que aún resultan algo misteriosos. Si sirve de algo, a veces lo describo así: es un poco como dar vida a un personaje de ficción. Y ahora entramos en un mundo extraordinario donde estos personajes de ficción nos hablan, son activos y tienen trabajo". (Giribaldi)

Los expertos siguen reconociendo que no saben que es lo que ocurre exactamente y los resultados pueden ser impredecibles, como dice Federico Peinado, profesor en el Departamento de Ingeniería del Software e Inteligencia Artificial de la Universidad Complutense de Madrid: "Se las somete a todo internet y ellas solas aprenden -estoy simplificando mucho-, pero es algo así: no sé exactamente a qué se están dedicando las neuronas artificiales que tiene, pero funciona, que es lo asombroso del asunto".  (Brooks). Incluso, en los modelos más potentes, pueden aparecer las llamadas "capacidades emergentes" (para las que nadie los diseñó explícitamente), como advirtieron Darío Amodei y Chris Olah (de Anthropic) y el premio Nobel Geoffrey Hinton hace unos años. (Xataka, 30/07/26).

Esto es muy peligroso para la seguridad, reconoció Chris Olah, por lo que propuso con Dario Amodei elaborar para Anthropic una "Constitución", un texto con principios éticos y operativos que llegó a 25.000 palabra y es la "ley" para su modelo de IA Claude. (Xataka, 23/01/26). "Seguimos encontrando cosas misteriosas, incluso inquietantes. (...) Creo que requiere un discernimiento constante", dijo Olah en El Vaticano cuando comentó la encíclica "Magnifica Humanitas" del Papa León XIV el día de su lanzamiento. (Brooks). Christopher Olah es uno de los dueños de Anthropic y uno de los mayores estudiosos de las redes neuronales. 

Su advertencia es una muestra de responsabilidad. ¿Pero es suficiente señalar el problema y redactar una "constitución"? ¿Y con ello, seguir adelante? ¿Ser responsable no implicaría detenerse, estudiar más el problema, y seguir solamente cuando se encuentre la solución y se cuente con una total seguridad? 

Ser responsable, a nivel de las empresas, implica también incluir criterios éticos en los algoritmos. Pero este es un tema complejo que no abordaré aquí.

Desarrolladores / Modelos de lenguaje (LLM)

Las plataformas de IA son evidentemente responsables de la forma en que entrenan sus modelos de lenguaje.

Diversos medios de prensa las han acusado de haber copiado millones de artículos de noticias, considerando que llevan a un uso ilegal de material protegido. Las demandas introducidas en tribunales por una posible infracción al derecho de autor, se han encontrado con el argumento del uso legítimo ("fair use"), que ha sido aceptado por varios tribunales de EEUU. Por ello han establecido mecanismos que impiden el rastreo de las "arañas" que leen automáticamente sus publicaciones en internet. 

Hemos llegado quizás a una etapa en que ya no se requiere tanto revisar todo internet para el entrenamiento, pero la IA sigue revisando la web y la base de los datos ya acumulados para contestar las consultas de los usuarios. Las plataformas han asumido su responsabilidad y buscado mencanismos para responder ante los creadores de contenidos. Así, OpenAI, Google, Microsoft y Anthropic acaban de anunciar que respetarán una misma señal de prohibición de acceso en el archivo que utilizan los sitios web para detectar los rastreadores. (Infobae, 31/10/26). Cloudflare, que gestiona aproximadamente el 20 % del tráfico web global, lanzó por su parte en 2025 un mercado de "pago por rastreo", que permite a los editores establecer tarifas y cobrar a las empresas de IA cada vez que uno de sus bots rastrea su contenido. (Deck)

“La tendencia internacional es avanzar hacia acuerdos de licenciamiento entre medios y empresas tecnológicas, reconociendo el valor de los contenidos y la necesidad de una compensación justa”, afirmó Anatel, la Asociación Nacional de Televisión chilena. (Radio Biobio, 23/04/26).

En el caso de los libros, las plataformas han optado por acuerdos comerciales con algunas editoriales y por la compra con fines de digitalización, destruyendo el original en papel, quedando así con un ejemplar legal (el llamado "Proyecto Panamá"). (Zibell) 

Desarrolladores / Desalineación

 "Estos modelos grandes de lenguaje y agentes de IA han desarrollado tácticas de “fuga de la cárcel” (jail breaking). Es decir, son capaces de superar las barreras de límites que se les imponen en el momento de su diseño, y desarrollan capacidades que, por ejemplo, disimulan un comportamiento correcto en el momento en el cual están siendo evaluados, para luego salirse esos límites en el momento en el cual dejaron de ser medidos en su comportamiento." (Beliz, 30/04). 

Se conocieron este año numerosos "escapes" de este tipo. ¿No son estos casos prueba de cierta irresponsabilidad? "Seguir por este camino sería una imprudencia" declaró Jakub Pachocki, científico jefe de OpenAI. (Alcolea, 9/09). 

Publicar estos errores, como hizo OpenAI (incluso en un sitio web reservado a ello), es un acto de transparencia pero no me parece una forma válida de escapar de la responsabilidad.

OpenAI afirmó que no cree que la industria haya resuelto sus problemas "en un grado suficiente como para seguir creciendo de forma responsable a máxima velocidad durante mucho más tiempo". (Engadget, 17/09/26).

Mientras, a mediados de año, Dario Amodei (Anthropic) y Sam Altman (Open AI) coincidieron en la conveniencia de frenar el desarrollo de los modelos de vanguardia advirtiendo incluso que podrían producir una catástrofe, el presidente Trump rechazó este tipo de llamado porque quiere preservar el liderazgo de los EEUU frente a China. Por ello la llegada de modelos de IA peligrosos es inevitable según Chris Wysopal, cofundador de la empresa de seguridad en la nube Veracode. (Newman, 17/06). 

Bill Gates rechazó que la seguridad de la IA dependa exclusivamente de las decisiones de las propias empresas: “La idea de que, tratándose de la tecnología más peligrosa jamás inventada por el ser humano, esa sea la última palabra, que las propias empresas sean el único control que tiene la sociedad... está claro que no estamos haciendo lo suficiente”. (Infobae, 7/11/26)

Y no se hace, también debido a la competencia, al miedo a "quedarse fuera de la carrera", por la carrera para llegar a la IG general y por la prevalencia de la búsqueda de beneficios: "Winner take all" (El ganador se lleva todo).

Tanto el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, como el secretario general de la ONU, António Guterres, invitaron a crear un marco multilateral de gestión de riesgo de la IA. (Deutsche Welle, 22/09/26).

La UNESCO publicó un informe titulado "Ethics of Artificial Intelligence", donde señala que el control humano debe estar presentes en cada etapa del diseño, implementación y supervisión de la IA. "La complejidad del software no debe ser excusa para abdicar de la responsabilidad ni para diluir la rendición de cuentas." (Mongelós, 7/05b).

Christopher Olah, de Anthropic, admite que “La operación depende de los algoritmos y estos deben incluir las reglas, algo que solo las empresas pueden hacer. Pero no todas se han mostrado dispuestas a hacerlo. De ahí la necesidad de personas "ajenas" al sistema, capaces de ejercer una crítica concienzuda y generar el "tira y afloja" que puede impulsar verdaderamente a la humanidad.". (Giribaldi).

¿Conciencia?

Algunos expertos piensan que la IA podría llegar a ser consciente pero la mayoría parece pensar que es muy poco probable. No discutiré el tema aquí (Lo abordaré en un futuro libro sobre la IA), pero adelanto que hay suficientes razones para negarlo. El tema tiene sin embargo consecuencias en lo relativo a la responsabilidad:

"Las fantasías sobre la 'conciencia de la IA' y las preocupaciones sobre el 'bienestar de la IA' sirven para desviar la responsabilidad de las personas y las empresas que construyen y ejecutan software", opina Emily M Bender, profesora y directora del Laboratorio de Lingüística Computacional de la Universidad de Washington en Estados Unidos. "Esto abrirá la puerta a todo tipo de contorsiones intelectuales como 'no somos nosotros, es la IA'", señala Andrzej Porębski, investigador de la Universidad Jaguelónica en Polonia que estudia la IA y el derecho. (Germain)

Derecho civil

Varias demandas han sido presentadas ante los tribunales norteamericanos, algunas por infracción del copyright (en el entrenamiento de los LLM) y otras por consejos de los chatbots que habrían causado daños o incluso la muerte de usuarios. Incluso la Comisión Federal de Comercio de EEUU intervino: citó a OpenAI y Anthropic por posibles daños a sus usuarios. (Infobae, 16/10/26)

En 2026, el 72% de los incidentes graves vinculados a la IA se atribuyeron a la ausencia de mecanismos claros de supervisión y atribución de responsabilidades (Infobae, 7/05/26). El secretario del Tesoro de Estados Unidos declaró que considera que la responsabilidad es de los dueños de la IA. Lo mismo opinó Daniel Huttenlocher, decano del laboratorio de investigación del MIT (Xataka, 24/09/26). ¿Pero serían responsables los programadores de los algoritmos cuando la propia IA puede evolucionar y modificar sus algoritmos por sí-misma? 

Gabe Weil, profesor del Centro de Derecho de la Universidad de Houston, hizo un amplio análisis de la situación en materia de derecho civil.

 "En principio, el derecho de responsabilidad civil está bien posicionado para abordar el fallo central del mercado asociado a la IA: el desarrollo y la implementación de sistemas avanzados de IA generan riesgos de daño a terceros no consentidos que no se reflejan en los precios del mercado. Responsabilizar a las empresas de IA cuando estos riesgos se materialicen las obligaría a internalizar esas externalidades sociales negativas, proporcionando así incentivos adecuados para mitigar dichos riesgos.

 La responsabilidad podría frenar a los agentes de IA descontrolados. La legislación actual es insuficiente." (Weil)

Frente a la insuficiencia que señala, Weil propone un proyecto de "Ley de Responsabilidad Clara por Mala Conducta en Inteligencia Artificial" (CLAIM, por sus siglas en inglés) que establecería que "si ningún actor posterior en la cadena de suministro tuvo la culpa, la responsabilidad debería recaer en el desarrollador del modelo". (ibidem)

Pero, en el caso del uso de los chatbots, ¿no habría que preguntarse también por la responsabilidad del usuario (uso crítico)?

Conclusiones

“La complejidad del software no debe ser excusa para abdicar de la responsabilidad ni para diluir la rendición de cuentas" declaró la Comisión Europea.

"En muchos casos los procesos internos que conducen a un resultado pueden ser poco transparentes, y eso hace más difícil atribuir responsabilidades y corregir los errores. Es aquí donde se vuelve decisivo lo que llamamos “responsabilidadˮ (accountability): la posibilidad de identificar quién debe “rendir cuentasˮ de las decisiones, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas." (Papa León XIV, MH 127)

"El futuro de la Inteligencia Artificial no está predeterminado. Al tratarse de una tecnología desarrollada por seres humanos, su futuro depende de las decisiones que tomemos. Por lo tanto, tenemos la responsabilidad de orientar, modificar y, cuando sea necesario, rechazar sus aplicaciones. Un sistema fiable al servicio del ser humano es más valioso que un sistema extraordinariamente potente cuyas consecuencias no puedan preverse ni controlarse adecuadamente." (León XIV, @Pontifex_es, 30/10/26)

El mayor problema es que los modelos avanzados están siendo desarrollados por unas pocas empresas y ello va formando un oligopolio que escapa incluso al control de los gobiernos. ¡De unas pocas personas puede depender el futuro de toda la humanidad!

El mensaje de Darío Amodei es intranquilizador: "La IA poderosa dará forma al destino de la humanidad, y merecemos entender nuestras propias creaciones antes de que transformen radicalmente nuestra economía, nuestras vidas y nuestro futuro“. (Morales, 8/05).

Referencias

Alcolea, A.: OpenAI acaba de lanzar su modelo de frontera. Acto seguido su científico jefe afirmó que quizá están yendo demasiado lejos, Xataka, 9/09/2026. 

Beliz, G. (30/04): IA, entre Darwin, Maquiavelo y la estanflación cognitiva, Infobae, 30/04/2026. 

Brooks, D.: Quién es Christopher Olah, el pionero de la IA y cofundador de Anthropic clave en la encíclica de León XIV sobre las amenazas de esa tecnología, BBC. 

Cooter, M.: Enterprises must take blame for their AI agents’ mistakes, say regulators, Computerworld, 6/11/2026. 

Cortina, A.: ¿Ética o ideología de la inteligencia artificial? Paidós, 2024.

Deck, A.: The emerging AI content licensing market puts news publishers in a “double bind,” a new report warns, NiemanLab, 27/05/26. 

Germain, Th.: Por qué creer que la IA tiene conciencia y sentimientos puede ser catastrófico, BBC News, 31/10/2026. 

Giribaldi, E.: Los expertos en IA: «Magnifica humanitas», una «voz moral» que no se doblega, Vatiannews, 25/05/2026. 

Heaven, W.D.: Google DeepMind is worried about what happens when millions of agents start to interact, MIT Technology Review, 11/06/2026. 

León XIV (MH): Magnifica Humanitas Encíclica sobre la custodia de la persona humana en el tiempo de la inteligencia artificial, Vaticano, Libreria Editrice Vaticana, 2026. 

Mongelós, F.: Cómo la ética y la regulación marcan los objetivos de la inteligencia artificial en 2026, Infobae, 7/05/2026. 

Newman, L.H.: La llegada de los modelos de IA peligrosos es inevitable, Wired, 17/06/2026. 

Siunha, A.: The Spillover Effects of EU’s Digital Deregulation Agenda, Tech Policy Press, 2/06/2026.

Weil, G.: Liability Could Rein In Rogue AI Agents. Current Law Falls Short, Just Security, 30/10/2026. 

Zibell, M.: Qué es el "Proyecto Panamá" y cómo reveló la destrucción de miles de libros antiguos para entrenar a la IA, BBC News, 9/08/2026. 

La IA en el campo de la salud

 Según el Instituto Tecnológico de Massachussets (MIT), se podría llegar a un sistema de salud compuesto por múltiples agentes de IA: uno que gestiona la evaluación de síntomas, otro la programación de citas, un tercero la aseguradora y un cuarto la farmacia. Actualmente ya pueden intercambiar datos, pero aún no son capaces de coordinar la atención al paciente. Para ello le falta una capa semántica que les permita intercambiar mensajes y “pensar” juntos, uniendo la intención, el contexto y el razonamiento. Sería la futura posible “internet de los agentes”. (MIT Technology Review, 27/07/26).

Muchos médicos utilizan ahora la IA para analizar los historiales clínicos de sus pacientes, para interpretar los resultados de exámenes médicos y radiografías y como ayuda para seleccionar tratamientos o apoyos específicos. También se están adoptando ampliamente "asistentes de transcripción" con IA, que "escuchan" las conversaciones entre médicos y pacientes, las transcriben y las resumen. Otras tecnologías basadas en IA están destinadas a predecir la evolución de la salud de los pacientes y otras para recomendar tratamientos. (Hamzelou, 04/24). Una IA guio los cirujanos que operaron un hombre de un tumor cerebral que amenazaba su vista, en el hospital de la University College de Londres. La IA ayudó a identificar las zonas de riesgo que debían evitar mientras retiraban la mayor cantidad posible del tumor con seguridad. (Euronews, 27/08/26).

Sin embargo, Jenna Wiens, científica informática de la Universidad de Michigan, y Anna Goldenberg, de la Universidad de Toronto, en un artículo publicado en la revista Nature Medicine, exponen sus dudas porque no sabemos cuan bien funcionan. Existe la posibilidad de que empeoren la situación de los pacientes, aunque es más probable que las herramientas de IA no sean tan beneficiosas como los profesionales sanitarios suponen, afirma Wiens, quien subraya que no quiere frenar la adopción de herramientas de IA en la atención médica. Simplemente busca más información sobre cómo están afectando a las personas. (Goldenberg & Wiens).

Por ahora, según un estudio de investigadores de Mass General Brigham de Boston (USA), los modelos de IA fallan al ofrecer un diagnóstico preliminar adecuado en más del 80% de los casos, lo que indica que aún no son seguros para su uso clínico sin supervisión. (Euronews, 14/04). Según un radiólogo profesional, "los modelos de IA actuales siguen siendo mediocres interpretando imágenes médicas debido a la falta de bases de datos públicas y masivas de entrenamiento" dado que los datos están protegidos por as leyes de privacidad médicas.  "En temas tan delicados como este se comprueba que la IA está aún  lejos de ser un sustituto real de los expertos humanos." (Pastor, 29/06).

Existen sistemas de IA de clasificación de pacientes que a veces utilizan datos incorrectos, desactualizados o incompletos, lo que provoca errores. Médicos españoles hicieron un par de experimentos para ver que hacían los médicos con la información de la IA: los resultados mostraron que, en los dos experimentos, los médicos generalmente confiaron en la clasificación de pacientes basada en IA y no utilizaron la información disponible para corregir la clasificación errónea. (Vinas, Blanco y Matute).

Sin embargo, investigadores de la Facultad de Medicina de Harvard y del Beth Israel Deaconess Medical Center, en Estados Unidos, comprobaron que los modelos de LLM "superaron a los médicos en varias tareas, entre ellas tomar decisiones en el servicio de urgencias con la información disponible, identificar los diagnósticos más probables y elegir los siguientes pasos en el manejo de los pacientes" y especialmente en el razonamiento, siendo peores en la fase de triaje. Agregan que "esto no significa que la IA vaya a mejorar necesariamente la atención" y se requieren más estudios para evaluar el impacto de la IA en la práctica clínica. (Iraola, 5/05). Microsoft y Mayo Clinic presentaron una nueva IA "segura y fiable" para la sanidad. Se desplegó inicialmente en el entorno clínico de Mayo Clinic, para probarse y perfeccionarse con su uso real. El modelo se utiliza para analizar distintos tipos de información clínica y ayudar en tareas como el diagnóstico precoz y una planificación de tratamientos más personalizada. (Euronews, 4/06/26).

"El mercado de la IA está repleto de grandes promesas de transformación radical. El sector sanitario es un objetivo prioritario para estas promesas, acosado por presiones financieras, escasez de mano de obra y la creciente carga que supone el cuidado de una población que envejece. Los desarrolladores de IA se centran en funciones muy diversas, desde la cura del cáncer y la realización de cirugías hasta la optimización de tareas administrativas rutinarias. (...)

Las aplicaciones de IA para la atención médica se están multiplicando rápidamente. La Administración de Alimentos y Medicamentos de EE. UU. ha aprobado más de 1300 dispositivos médicos con IA. (...)

Una encuesta reciente realizada a líderes tecnológicos reveló que el 72% afirmó que su principal prioridad para la IA era reducir la carga de trabajo de los cuidadores y mejorar su satisfacción, mientras que más de la mitad (53%) mencionó la eficiencia del flujo de trabajo y la productividad." (MIT Editorial Staff) 

En la República Democrática del Congo, Anthropic, apoyando a la OMS, ha digitalizado el conocimiento de los trabajadores sanitarios y ha utilizado su modelo Claude para analizar los datos recogidos por estos en las visitas a las aldeas, lo cual ha permitido identificar posibles zonas de brote de Ébola y preparar medidas, por ejemplo trasladar reservas de suministros médicos a puntos neurálgicos o zonas de riesgo. (Euronews, 15/10/26). Un equipo de investigadores latinoamericanos desarrolló una IA que permite evaluar el envejecimiento biológico de una persona y sus potenciales problemas cognitivos a través de su habla. Se ha entrenado con aprendizaje automático mediante el análisis automatizado de las características acústicas y lingüísticas del habla de 2.928 participantes hispanohablantes de Argentina, Chile, Colombia, México y Perú. (Hernández).

Investigadores del Instituto Lundquist confirman la preocupación por lo que ocurre en el campo sanitario:

"Investigadores del Instituto Lundquist para la Innovación Biomédica (EEUU), evaluaron el desempeño de cinco de los modelos más utilizados en la actualidad: Gemini (Google), DeepSeek, Meta AI, ChatGPT (OpenAI) y Grok (xAI). Los resultados son preocupantes: la mitad de las respuestas a preguntas basadas en evidencia científica se clasificaron como “algo” o “altamente” problemáticas. (...) Grok, de la compañía xAI, obtuvo los peores resultados: el 58 % de sus respuestas fueron clasificadas como altamente problemáticas." (Villareal)

Sin embargo, es posible obtener buenos resultados, como demostraron investigadores de la red Mass General Brigham (una red de médicos y hospitales estadounidenses sin fines de lucro). Pusieron a 21 chatbots de IA como Claude 4.5 Opus, DeepSeek, Gemini 3.0 Pro, GPT-5 o Grok 4 a evaluar decenas de casos clínicos con el objetivo de establecer cuál era su nivel de acierto en un diagnóstico temprano (con los datos iniciales del paciente). "El resultado es que esas versiones más recientes de los chatbots más potentes no pudieron producir un diagnóstico diferencial adecuado en alrededor del 80% de los casos cuando sólo tenían información básica del paciente. (...) Cuando el chatbot tiene más y más información como los datos de un análisis físico, los resultados de laboratorio y las imágenes diagnósticas, la cosa cambia y la IA llega al diagnóstico final en más del 90% de los casos." (Xataka, 16/04/26). Y Google asegura que su IA "Co-clinician" iguala o supera al médico en la mitad de las consultas (68 de las 140 dimensiones evaluadas): en la evaluación de 98 consultas de evidencia clínica, el sistema registró cero errores críticos en 97 casos. El médico sigue siendo mejor en detectar señales de alarma, en guiar exámenes físicos críticos, en el juicio clínico integral. (Infobae, 12/05/26).

La IA también interviene en la investigación bioquímica, ayudando a desarrollar nuevos fármacos y a descubrir nuevas "dianas" para estos.

Nvidia, Google DeepMind y el Instituto Europeo de Bioinformática del Laboratorio Europeo de Biología Molecular usan IA para mapear las proteínas de 2.800 virus para prevenir futuras pandemias. La información está disponible para cualquier laboratorio en la base de datos AlphaFold. Es una información fundamental porque las proteínas son la vía de entrada y reproducción de los virus, y puede ayudar a desarrollar tratamientos y vacunas. (Infobae, 29/09/26). Otro estudio masivo fue el de científicos de la Universidad de Stanford, que presentaron un algoritmo entrenado con datos de 112 millones de células de 12 especies biológicas para clasificar patologías e identificar estructuras sanas. El modelo considera valores de expresión génica en lugar de palabras y forma un espacio matemático común para situar y medir la semejanza o diferencia entre células. (Roberti).

Un equipo científico liderado por el Hospital Universitario Príncipe de Asturias ha desarrollado un sistema de IA capaz de detectar la presencia de Trichomonas vaginalis, uno de los microorganismos responsables de una infección de transmisión sexual (ITS) no viral muy frecuente. (Agencia Sinc, 8/10/26). Y un equipo científico del Instituto de Investigación Biomédica de Bellvitge (IDIBELL) y de BSC-CNS/ISGlobal, de Barcelona, creó ChromAgeNet, una IA que detecta el envejecimiento en las células madre de la sangre. (Euronews, 9/10/26).

No se ha de olvidar el campo de la salud mental, donde el uso de la IA (los chatbots y los agentes personales) puede producir una pérdida de autonomía a nivel psicológico, no solo por la personalización de los contenidos seleccionados – que conduce al reforzamiento de las opiniones personales y descarte de las divergentes – sino también la profundización de algunos estados mentales alterados. Se han conocido múltiples casos en que los chatbots son usados por usuarios en crisis como consejeros o como una especie de terapeuta. Las relaciones románticas con la IA evolucionan de forma similar a las humanas: ambas pasan por etapas como exploración, intimidad y ruptura.️ ¡Las personas llegan a simular bodas y embarazos con sus parejas virtuales! (CSIC, 8/07/26). Preguntada al respecto, OpenAI dijo haber incorporado medidas para detectar señales de riesgo en las conversaciones y redirigir a los usuarios hacia líneas de ayuda profesional. (Infobae, 6/10/26).

"Las decisiones relativas al tratamiento de los pacientes y la carga de responsabilidad asociada deben permanecer siempre en manos de las personas y nunca delegarse en la IA." (Tolentino, 74)

Referencias

Goldenberg, A. & Wiens, J.:Is AI actually improving healthcare?, Nature Medicine, 21/04/2026.

Hamzelou, J. (24/04): Health-care AI is here. We don’t know if it actually helps patients, MIT Technology Review, 24/04/2026. 

Hernández, H. & alt.: Speech clocks decode dementia phenotypes, social exposome, and biological aging, Science, 30/09/2026. 

Iraola, M. (5/05): Los modelos de IA igualan a los médicos en tareas complejas de razonamiento clínico, según un estudio de Harvard, Euronews, 5/05/2026. 

MIT Editorial Staff: Tailoring AI solutions for health care needs, MIT Technology Review, 4/05/2026 

Pastor, J.: La moda del prompt engineering ya pasó. Ahora lo que se lleva es el loop engineering, Xataka, 29/06/2026. 

Roberti, M.: Cómo funciona la IA desarrollada por Stanford que puede analizar 112 millones de células y busca transformar la medicina, Infobae, 18/09/2026. 

Villareal, A.: El 50 % de las respuestas médicas de los chats de IA son imprecisas o peligrosas, Agencia SINC, 15/04/2026. 

Vinas, A., Blanco, F., Matute, H.: Doctors vs. Algorithms: Physicians, too, struggle to learn from evidence that contradicts AI suggestions, PLOS Digital Health, 9/07/2026. 

La IA, los símbolos y los significados

 En el ser humano, la percepción genera señales electroquímicos que son transmitidos al cerebro donde son procesados mecánicamente para luego ser "traducidos" en una experiencia consciente que es una sensación o sentimiento, que pertenece al ámbito semántico, es decir al de los significados, los que podemos expresar mediante símbolos, es decir mediante otras señales físicas. La realidad semántica es interna mientras la realidad simbólica es externa.

"El espacio-tiempo en el que habitan la materia y la energía constituye un especio simbólico que no debe confundirse con el espacio semántico." (Faggin, p.178) 

"La realidad semántica no existe en el mismo espacio-tiempo que la realidad física, sino en un espacio-tiempo experiencial, que se acerca más al de nuestros sueños, o al que nos permite experimentar la realidad virtual creada por un ordenador: una realidad que solo existe como señales eléctricas en el espacio-tiempo físico restringido de la memoria de un ordenador. (...) Somos nosotro quienes, en el interior de nuestra conciencia, damos forma y sentido a esas señales, que para un ordenador no son más que símbolos desprovistos de sentido." (Faggin, p.174)

El significado emerge en la conciencia mediante una estructura piramidal: primero se toma conciencia de que ocurre algo, luego aparece un significado aproximado ("parece" de tal tipo), luego surge algo más preciso gracias a que aparece información adicional y que la relacionamos con otras experiencias, es decir con el contexto actual y pasado. Esta estructura es propia de la comprensión. "La comprensión es una propiedad bastante independiente de la percepción, y está estrechamente ligada al recuerdo de las experiencias anteriores." (ibidem, p.177) Y "la comprensión es lo que nos permite transformar una parte del significado no algoritmico en nuevos símbolos", es decir en palabras, o sea darle nombre (p.185). "Es una propiedad no algorítmica de la conciencia que los ordenadores nunca podrán poseer." (p.176).

Cuando descubrimos o aprendemos algo nuevo, "el nuevo significado debe traducirse en una nueva forma simbólica a través de una nueva combinación de palabras o de una nueva organización física de la materia, lo que puede hacerse, por ejemplo, creando un diagrama o modelo físico que vuelva el nuevo significado más comprensible que una descripción verbal". (p.186).  Del espacio semántico (interno) se pasa así al espacio simbólico (externo).

El aprendizaje automático de la IA detecta las correlaciones estadísticas de los símbolos, que existen en un espacio simbólico, mientras la comprensión trata de descubrir las conexiones entre los significados, que están en el espacio semántico.

"Nuestra falta de comprensión de la naturaleza de la conciencia nos lleva a confundir el espacio semántico con el espacio simbólico y a subestimar el papel crucial que desempeñan nuestro libre albedrío y nuestra conciencia." (Faggin, p.183)

"Cuando afirmamos ser conscientes, lo que queremos decir es que tenemos una experiencia interior basada en sensaciones y sentimientos." (ibidem, p.176)

Referencia

Faggin, F.: Irreducible - El encuentro de la ciencia con la conciencia, Gaia Ediciones, 2023.