Los límites del conocimiento

Ya hablé, en un post anterior, de los problemas de desconocimiento que aborda Daniel Innerarity en su libro "La sociedad del desconocimiento". La idea central es que el aumento del conocimiento no implica, hoy, el retroceso de lo que no se sabe, sino más bien su aumento o el descubrimiento de que es mayor que lo creído hasta entonces.

Pero el real problema del conocimiento (y del desconocimiento) es que la capacidad de nuestro cerebro es mucho más limitada que lo que, generalmente, creemos. Lo puso recientemente en evidencia un físico famoso, Sankar Das Sarma, director del Centro de Teoría de la Materia Condensada, de la Universidad de Maryland. "Las leyes de la física en realidad no existen, sino que son solo un concepto conveniente para nosotros" dice (Piacente). 

"Plantea que lo que llamamos leyes físicas son en realidad meras descripciones matemáticas de cierta parte de la naturaleza, y que esta suposición se aplica tanto a las leyes del movimiento de Newton, como a la teoría de la relatividad de Einstein, a la ecuación de Dirac que describe las amplitudes de probabilidad para un electrón, así como a otros muchos campos de la física. [...] Lo que más bien ocurre es que nuestras leyes y teorías describen la realidad tal como la percibimos y medimos. " (ibidem)

Sarma nos recuerda que nuestro cerebro tiene "apenas" 86 mil millones de neuronas, lo cual es inferior a la cantidad de estrellas que existen en la Vía Láctea, la cual es solo una pequeña parte del Universo conocido. "El universo parece casi infinito en comparación con la capacidad finita del cerebro humano, lo que nos deja tal vez pocas posibilidades de descubrir todo sobre su naturaleza y sus misterios." (ibidem)

"Sarma advierte, no obstante, que no soñemos con una posible ley final de la física, ya que considera que esa pretendida descripción global de todo el universo, algo que los físicos llevan buscando desde hace un siglo, es algo que realmente no existe." (ibidem)

Dado que la física actual se basa en las matemáticas y que utiliza éstas para describir el universo, se plantea otra pregunta: "¿tienen las matemáticas una existencia real que nosotros descubrimos, o por el contrario son tan solo una construcción del cerebro humano, limitada por nuestra propia biología?" (ibidem).

Saliendo de la física y de las matemáticas, debemos considerar otro campo donde es imposible conocer la realidad. Se trata de la astronomía. Nuestros conocimientos crecen constantemente gracias a nuevos instrumentos como el telescopio James Webb. Pero solo hace crecer nuestro conocimiento de algunos aspectos del pasado. Las ondas (de luz y otras) que nos llegan, se originaron hace años y la realidad que queda fuera de nuestro sistema solar, hoy, queda fuera de nuestra capacidad de observación. ¡No sabemos que es lo que está ocurriendo alrededor de nosotros (de nuestro sistema solar)!

Otra grave ilusión es creer que la inteligencia artificial basada en una acumulación cada vez más enorme de "big data" nos dará acceso a todo el conocimiento posible. Se confunde coherencia con verdad, nos advierten en la Agencia SINC (agencia científica española), comentando el éxito que está teniendo el ChatGPT de OpenAI, un sistema de chat con más de 175 millones de parámetros, usando algoritmos que abarcan desde la traducción hasta la generación de texto, lanzado el 30 de noviembre. 

"Algunas personas han quedado tan alucinadas que se habla ya del fin de Google, de estar a un paso de la Inteligencia Artificial General (AGI), en la que los sistemas son comparables en inteligencia a los seres humanos. Algunos, con aún mayor osadía, ven razones para dar la bienvenida a la singularidad, ese estadio de desarrollo tecnológico en el que ésta trasciende la inteligencia y el control humanos." (Casacuberta)

ChatGPT es “peligrosamente estúpido”, dice Gary Marcus, profesor del Departamento de Psicología de la Universidad de Nueva York (Perozo). Tanto en este caso como en otras aplicaciones de la IA, hay que recordar problemas "como los sesgos discriminatorios o, curiosamente, los errores matemáticos y de razonamiento inferencial que contienen", introducidos por quienes los programan (ibidem). Los algoritmos incluyen miles de parámetros. ¿Son los programadores capaces de controlarlos? Contamos con IAs que se autodesarrollan ("aprendizaje profundo"). ¿Cómo podemos controlarlas? ¿Cómo sabemos si son fiables o no? Algunos informáticos intentan lograr que, junto con sus resultados, informen del modo en que los obtuvieron. ¿Pero su "razonamiento" será comprensible para nosotros?

"No creo que estemos cerca de obtener sistemas inteligentes de verdad, quizás en 10 años estemos bastante cerca”, resalta Marcus. Y mientras, herramientas que pueden ser utilizadas para desinformación continúan sumando espacios." (Perozo)

Las dudas - o límites - se introducen también en un campo inesperado: el judicial. El modo cómo fallan los jueces ha sido estudiado en los Estados Unidos (Mocan, 2018), concluyendo que "el sistema judicial de las democracias avanzadas está muy alejado de los parámetros que rigen la producción del conocimiento científico" (Costas y Martínez). Los investigadores, de la Universidad Estatal de Luisiana, demostraron que influían en los jueces su ideología, su creencia en la existencia de diferencias entre razas humanas, la fecha de cumpleaños (del juez o del acusado), el día de la semana (el lunes era peor), si ganó o perdió el equipo de futbol favorito, el estrés, etc. (ibidem) No solo distintos jueces imponen sentencias diferentes en casos idénticos: se verificó que un mismo juez lo hacía (se le presentó un mismo caso cambiando el nombre del acusado, con algunos años de diferencia). No existe por lo tanto un conocimiento cierto en materia jurídica, porque opera de un modo muy alejado del modelo de desarrollo del conocimiento científico. ¡Y éste ya es tremendamente limitado!

En resumen: nuestra capacidad de percepción y procesamiento mental es extremadamente limitada y estamos lejos de tener acceso a toda la realidad. Pero, al mismo tiempo, es suficiente y adecuada para movernos y adaptarnos a esta realidad, de la cual formamos parte, si bien muchas de sus dimensiones nos escapan y solo podemos elucubrar acerca de algunas de ellas (ver mi obra "La ciencia y el espíritu").

Referencias

Casacuberta, D. y  Guersenzvaig, A. (2022): Las falacias del encantamiento con la inteligencia artificial de ChatGPT, Agencia SINC, 16/12/2022. 

Costas, E. y Martínez, E. (2022): El sistema judicial de las democracias modernas no resiste el análisis científico, Tendencias 21, 20/12/2022.

Mocan, E., O. & N. (2018): Emotional Judges and Unlucky Juveniles, American Economic Journal: Applied Economics, 10 (3): 171-205.

Perozo, K. (2022): ChatGPT es “peligrosamente estúpido”, dice un experto en Inteligencia Artificial, FayerWayer, 12/12/2022. https://www.fayerwayer.com/ciencia/2022/12/12/chatgpt-es-peligrosamente-estupido-dice-un-experto-en-inteligencia-artificial-sus-motivos-suenan-muy-validos/

Piacente, P.J. (2022): Las leyes físicas tal y como las entendemos en realidad podrían no existir, Levante-emv, 13/12/2022. 

Sarma, S.D.(2022): Why the laws of physics don't actually exist, New Scientist. 

Los sentidos del sentido

 ¿Cuál es el sentido del sentido? Me parece que es indefinible.

Tenemos cinco sentidos, pero se habla de un sexto sentido.

Los sentidos del tránsito son dos. Y éste es otro sentido del sentido.

El sentido de una palabra puede ser uno o varios.

Un acto también puede tener uno o varios sentidos.

La realidad puede tener múltiples sentidos.

El sentido de la vida varía según la creencia o ideología de cada cual.

Entonces el sentido puede tener muchos sentidos.

¿Cómo se las arregla el cerebro para darnos la significación correcta? ¡Y lo hace sin que necesitemos detenernos en reflexionar! Es el subconsciente que opera, a la velocidad de la luz (o aún más, ya que pueden estar involucrados procesos cuánticos). ¿Cómo? Parte de la información del contexto antecedente y le junta el contexto simultáneo, analizando todo en forma simultánea y arrojando a nuestra consciencia el resultado, sin ningún esfuerzo de reflexión a no ser, por ejemplo, que se esté jugando expresamente con los múltiples sentidos de una palabra (lo que el contexto también indica).

La era de las dudas

No es una novedad decir que estamos sumergidos en la información, especialmente desde el nacimiento de la web y, aún mucho más, desde el surgimiento de las redes sociales.

Pero en este ambiente de crecimiento explosivo y de desarrollo desregulado, abundan las informacuiones falsas, las opiniones extravagantes y las supuestas conspiraciones. 

"Este mercado desregulado favorece la credulidad porque no plantea ningún límite a los mecanismos más intuitivos de nuestro espíritu: estereotipos, sesgos, agitación adictiva, atención dispersa, automatismos mentales... Cuando hay una saturación de información que nos distrae y obliga a decidir rápidamente, es más fácil aceptar las ideas falsas, pero también que nos rindamos a nuestra espontaneidad mental como si fuera algo indiscutible. (Innerarity: 10)

El principal problema del ambiente informático de hoy es que disminuye la posibilidad de comprobación personal. ya es un lugar común decir que, ante cualquier información, conviene realizar una verificación (aunque podemos tener autores o emisores que nos dan absoluta confianza y que no lo hacen, a nuestro juicio, necesario). ¿Pero en que medida otras fuentes son más confiables? O, si encontramos divergencias, ¿a cuáles debemos creer?

En el campo científico, especialmente de las ciencias básicas, existe el mecanismo de evaluación por pares. Pero hemos sabido hace poco que incluso, en este caso, ocurre que los pares se copian unos a otros y pueden otorgar fe a experimentos y resultados inventados. Fue el caso del fraude en una investigación acerca del Alzheimer: un artículo publicado en 2006 en la revista Nature y que fue citado en otros 2.300 artículo, sirviéndose de base a otras investigaciones que siempre dieron por válidos los resultados que ahora se sabe que estaban falseados. El neurocientífico Matthew Schrag, de la Universidad Vanderbilt, destapó el posible escándalo (evitando hablar de fraude), descubriendo no solo las "retro-citas" sino como las mismas ilustraciones se encontraban en numerosos artículos diferentes que pretendían haber replicado los mismos experimentos. La revista Science inició una investigación, recurriendo a investigadores independientes, que parece confirmar que hay cientos de imágenes en duda (algunas "sorprendentemente flagrantes") (https://www.youtube.com/watch?v=kk0nVk6_290)

Se habla de "crisis de replicación", presente también en otros casos:

"Las crisis de replicación que afectaron a la psicología y a la biología del cáncer, resultaron ser mucho más profundas y generalizadas de lo que se creía y, a día de hoy, casi no hay ningún ámbito científico que no se haya visto afectado de una u otra manera por estos problemas." (Xataka, 1/08/2022) 

¿En quién confiar? "Los legos nos vemos obligados a depositar nuestra confianza en los científicos, lo que a veces no es razonable o no es posible, como cuando la comunidad científica hace públicos sus desacuerdos y no sabemos a quién creer."  (Innerarity: 12)

Nadie es experto en varias áreas y la mayoría se ve obligada a informarse a través de divulgadores. Pero la llamada divulgación científica también puede ser fuente de información y creencias erróneas, máxime cuando algún autor se vuelve famoso, como ocurrió con Yuval Noah Harari, que ha vendido más de 23 millones de copias de sus libros en todo el mundo y acaba de ser fuertemente atacado: 

"Hemos sido seducidos por Harari por el poder no de su verdad o erudición sino de su narración. Como científico, sé lo difícil que es convertir temas complejos en narraciones atractivas y precisas. También sé cuándo se sacrifica la ciencia al sensacionalismo. Yuval Harari es lo que yo llamo un “populista de la ciencia”. [...] Los populistas de la ciencia son narradores talentosos que tejen historias sensacionalistas en torno a "hechos" científicos en un lenguaje simple y emocionalmente persuasivo. Sus narraciones están en gran parte limpias de matices o dudas, lo que les da un aire falso de autoridad y hace que su mensaje sea aún más convincente. Al igual que sus contrapartes políticas, los populistas científicos son fuentes de desinformación. Promueven falsas crisis, mientras se presentan como poseedores de las respuestas. Entienden la seducción de una historia bien contada, que buscan incansablemente expandir su audiencia, sin importar que la ciencia subyacente esté distorsionada en la búsqueda de la fama y la influencia. [...]

Consulté a colegas en la comunidad de neurociencia y biología evolutiva y descubrí que los errores de Harari son numerosos y sustanciales, y no pueden descartarse como quisquillosos. Aunque se vende como no ficción, algunas de sus narraciones se acercan más a la ficción que a la realidad, todos signos de un populista científico." (Narayanan)

(‪Darshana Z. Narayanan es especialista en neuroetología, evolución y comportamiento social de la Princeton University)

La situación no es mejor en el caso del software. Programas falsos se esconden a plena vista dentro de duplicados falsos de software conocido, como por ejemplo Google Translate de la cual hubo 112.000 descargas, evitando así ser detectados por los antivirus, y empezando a operar semanas después de la descarga (DigitalTrends, 30/08/22). Y, a pesar de los avances del software antivirus y de la IA, la cantidad de datos acumulados es tal que "no puede ser completamente procesado por nuestros instrumentos de análisis" (Innerarity: 18).

Pero la situación es aún más grave y más amplia. Se dice que hemos pasado de la era de la información a la era del conocimiento. Pero más conocimiento implica también la toma de conciencia de más desconocimiento y el aumento de la complejidad de los problemas. "Nunca habíamos depositado tantas esperanzas en el conocimiento como solución mientras se convertía él mismo en un problema. [...] No hay descubrimiento científico o invención tecnológica que no lleve aparejado, como su sombra, un nuevo desconocimiento." (ibidem: 9; 13)

"Nos caracterizamos como «sociedad del conocimiento», pero eso no significa que sepamos mucho, sino que somos una sociedad que es cada vez más consciente de su no-saber y que progresa aprendiendo a gestionar el desconocimiento en sus diversas manifestaciones: inseguridad, verosimilitud, riesgo e incertidumbre.  [...]

Hay otro aspecto más dramático de esta ignorancia que tiene que ver con el hecho de que las tareas acometidas incluyen dimensiones desconocidas y parcialmente desconocibles: consecuencias secundarias y efectos no previstos que han de ser gestionados en escenarios de futuro difícilmente anticipables." (ibidem: 20)

Hoy, el aumento del conocimiento no implica el retroceso de lo que no se sabe, sino más bien su aumento o el descubrimiento de que es mayor que lo creído hasta entonces: "el nuevo conocimiento genera sus correspondientes ignorancias" (ibidem: 52). El conocimiento se ha hecho más accesible, pero el desconocimiento también. Y con ello las dudas y la dificultad para tomar decisiones: "El problema básico al que nos enfrentamos es el de la discriminación inteligente: qué ha de ser omitido, desatendido, ignorado" (ibidem: 56).

"El universo digital es un nudo extraordinario donde se encuentran demasiadas cosas y nos ayuda muy poco a la hora de determinar qué es lo que deberíamos propiamente buscar. Cualquiera es capaz de encontrar; lo difícil es buscar. [...]

No sabe nada quien no sabe que el verdadero saber es inalcanzable; no ha aprendido nada quien no ha aprendido lo mucho que le queda por aprender." (ibidem: 123; 142)

Y si no sabemos, ¿cómo resolver nuestras dudas? ¡Investigar más no nos asegura que las podamos resolver! Y muchas investigaciones agregan más información (o solo muchos datos), ampliando el campo de las dudas y del desconocimiento.

Referencias:

Innerarity, D. (2022): La sociedad del desconocimiento, Barcelona, Galaxia Gutenberg.

Narayanan, D: The Dangerous Populist Science of Yuval Noah Harari, Current Affaires, march-april 2022.