IA generativa y ciencia cognitiva

Tomando en cuenta que, según los investigadores de la Universidad de Stanford, Bing Chat es el que mejor respalda sus respuestas en referencias, pregunté a Bing Chat qué relación hay entre la IA generativa y la ciencia cognitiva. Ésta fue la respuesta:

"La inteligencia artificial generativa es una rama de la inteligencia artificial que se enfoca en la creación de sistemas que pueden generar contenido original y creativo. La ciencia cognitiva, por otro lado, es un campo interdisciplinario que se enfoca en el estudio de la mente y el pensamiento humano. La relación entre la inteligencia artificial generativa y la ciencia cognitiva es que ambas áreas de estudio se centran en la comprensión de la creatividad y el pensamiento humano. La inteligencia artificial generativa utiliza técnicas de aprendizaje automático para crear contenido original, mientras que la ciencia cognitiva utiliza técnicas de investigación para comprender cómo funciona el cerebro humano y cómo se produce el pensamiento creativo1."

Para precisar, pregunté "¿Cómo se relaciona la IA generativa con la ciencia cognitiva?" Y Respondió:

"Sí, la inteligencia artificial generativa utiliza técnicas de aprendizaje automático para procesar una enorme cantidad de datos visuales o textuales y determinar qué cosas tienen más probabilidades de aparecer cerca de otras. La ciencia cognitiva, por otro lado, se enfoca en el estudio de la mente y el pensamiento humano. Aunque ambas áreas de estudio son diferentes, la inteligencia artificial generativa y la ciencia cognitiva se centran en la comprensión de la creatividad y el pensamiento humano.

En resumen, la IA generativa utiliza técnicas de aprendizaje automático para crear contenido original y creativo mientras que la ciencia cognitiva utiliza técnicas de investigación para comprender cómo funciona el cerebro humano y cómo se produce el pensamiento creativo."

No contento con ello, pregunté: "¿Los algoritmos de IA generativa se basan en algo de la ciencia cognitiva? ¿En qué?"

Me contestó lo mismo, después de decir que sí:

"Sí, los algoritmos de la IA generativa se basan en la ciencia cognitiva. La IA generativa utiliza técnicas de aprendizaje automático para procesar una enorme cantidad de datos visuales o textuales y determinar qué cosas tienen más probabilidades de aparecer cerca de otras. La ciencia cognitiva, por otro lado, se enfoca en el estudio de la mente y el pensamiento humano. Aunque ambas áreas de estudio son diferentes, la inteligencia artificial generativa y la ciencia cognitiva se centran en la comprensión de la creatividad y el pensamiento humano.

En resumen, los algoritmos de la IA generativa se basan en técnicas de aprendizaje automático que utilizan la ciencia cognitiva para crear contenido original y creativo."

En resumen: no obtuve una respuesta adecuada. Creo poder deducir que la ciencia cognitiva no intervino en el desarrollo de los algoritmos más que en la idea (superficial) del aprendizaje por acumulación de datos. Me parece dudoso que hayan intervenido estudios psicológicos sobre el funcionamiento de la creatividad ya que solo se dice que ambos "se centran en la comprensión de la creatividad".

Para confirmar esta hipótesis, repregunté: "¿Qué estudios psicologicos han sido usados en el desarrollo de la IA generativa?" Nuevamente, la respuesta fue superficial:

"Los estudios psicológicos que se han utilizado en el desarrollo de la IA generativa incluyen la psicología cognitiva y la psicología del aprendizaje. La psicología cognitiva se enfoca en el estudio de la mente y el pensamiento humano, mientras que la psicología del aprendizaje se enfoca en cómo las personas aprenden y cómo se pueden aplicar estos principios al desarrollo de sistemas de inteligencia artificial.

En resumen, los estudios psicológicos que se han utilizado en el desarrollo de la IA generativa incluyen la psicología cognitiva y la psicología del aprendizaje.

El chat me sugirió la siguiente pregunta (Me parece interesante que sugiera una pregunta que luego contesta): "¿Cómo se aplican los principios de la psicología cognitiva en el desarrollo de la IA generativa?"

Y su respuesta:

"Los principios de la psicología cognitiva se aplican en el desarrollo de la IA generativa para comprender cómo los humanos procesan la información y cómo se puede imitar este proceso en una máquina1. Por ejemplo, los principios de la psicología cognitiva se pueden utilizar para desarrollar algoritmos de aprendizaje automático que imiten el proceso de aprendizaje humano.

En resumen, los principios de la psicología cognitiva se aplican en el desarrollo de la IA generativa para comprender cómo los humanos procesan la información y cómo se puede imitar este proceso en una máquina."

Aquí me parece que hay un error: "los principios... se aplican... para comprender": se aplican para buscar y generar respuestas a las preguntas, no para comprender (lo cual sería un aporte a la ciencia cognitiva). También dice que los principios "se pueden utilizar para desarrollar algoritmos". Solo "se pueden". No responde a su propia pregunta "¿Cómo se aplican..." 

Concluyo que, al parecer, solo conceptos generales acerca de la cognición y el aprendizaje parecen haber guiado los ingenieros y mantengo más dudas en lo relativo a la creatividad.

El lugar del sentido

La semiótica se ocupa esencialmente de las expresiones que forman parte de los procesos de comunicación y de su significado. La reflexión semiótica ha progresado significativamente desde los primeros trabajos de De Saussure, como se explica muy bien en un artículo de C.Vidales sobre la cibersemiótica y su origen.

Aunque adhiero a los conceptos centrales de la cibersemiótica, no me parece que da una explicación satisfactoria de la emergencia del sentido (significado), como tampoco lo hizo la biosemiótica, a la cual me he referido en un post de agosto 2022. En efecto, si he leído bien a Vidales, volvemos a encontrarnos con una postura esencialmente materialista. Y es que - a mi entender - el sentido es algo intrínsecamente ligado a la conciencia y es de orden espiritual, como explicado en mi post. Para explicar el sentido, hay que explicar la conciencia. La pregunta de donde está realmente el significado equivale a la pregunta de donde está la mente. Tenemos que admitir que pertenece a una dimensión que no es estrictamente material. Lamentablemente, la ciencia moderna – de tipo positivista – ha pretendido erróneamente que solo lo medible puede ser objeto de conocimiento científico. Y la mente no es algo medible.

En mi reciente artículo "Semiótica, mente y cognición", analizo el proceso del pensamiento y la problemática de la creación de significados. Lo que entorpece de algún modo la reflexión y el análisis es que el significado parece intrínsecamente ligado al lenguaje, al menos si queremos referirnos a él. Pero es, en realidad, solo una apariencia. Si volvemos a los mecanismo mentales, tenemos que admitir que, en muchos casos, podemos tomar conciencia de un sentido sin recurrir al lenguaje. Psicólogos cognitivos como Jean Piaget y Paul Ausubel, que han estudiado el proceso de adquisición del conocimiento en el niño, han mostrado que el lenguaje del niño está basado en el significado antes de que llegue a dominar formas verbales y que sus primeros enunciados son el reflejo de la estructura interna de su memoria, adquirida a través de la interacción con los adultos. E incluso para el adulto, puede haber sentido sin lenguaje. El mejor ejemplo es lo que ocurre con la percepción de imágenes. El sentido de una imagen aparece habitualmente en nuestra mente en cuanto se forma en el área cortical de la visión, sin necesidad de palabras.

La repetición y la comparación de las experiencias (de lo percibido) del niño llevan a la categorización y ésta a la generación de conceptos, niveles en que el lenguaje entra a jugar evidentemente un rol importante. Pero el mecanismo ocurre en dos niveles: el fisiológico (neurológico: la asociación de "mapas reentrantes", en términos de Edelman) y propiamente mental (inmaterial, espiritual).

Por otra parte, una vez que se domina el lenguaje, podemos considerar el pensamiento como una formulación mental que utiliza el lenguaje, sin necesidad de recurrir a la expresión material (vocalización o escritura). Pero podemos expresar la misma idea (el mismo significado), mentalmente, en diversos idiomas. Según la teoría clásica, éstos son diversos significantes. ¿Qué es entonces el significado, único, que ellos comparten? Ha de ser un meta-pensamiento, inasible de otra manera. Obviamente no puede "residir" en las conexiones neuronales, que son diferentes para cada significante, aunque algunos semiotistas creen lo contrario. Lo que es el entendimiento, en el nivel del meta-pensamiento, sigue siendo un misterio, tanto como la naturaleza última de la mente (¿alma?). 

Sabemos que un concepto se define por sus relaciones con otros conceptos, pero a través de las expresiones lingüísticas que les corresponde. Esto quiere decir, a su vez, que un significado se define por sus relaciones con otros significados. Pero es imposible asegurar que se dé el mismo conjunto de relaciones entre los meta-pensamientos de diferentes personas. Solo podemos estar seguros de que una parte de sus "mapas" es suficientemente idéntica para que haya comprensión mutua, lo cual es asegurado por el dominio de un mismo lenguaje, es decir por la mediación física de un sistema aprendido y por un contexto o ambiente común. (No olvidemos que son estos últimos los que permiten reducir la polisemia.)

Así, no se pone en duda el rol fundamental del lenguaje para el desarrollo del conocimiento consciente, pero existen varias hipótesis acerca de la relación entre las representaciones mentales y aún más entre su sentido y sus “instanciaciones” lingüísticas.

Para la semiogenética, que se desarrolló en la década de 1970, el sentido "emerge" del proceso de percepción y su tratamiento neuronal: "Nada hay en el sentido que no haya venido de los sentidos", dice (Beividas: 145). Sería solo el resultado de reacciones físico-químicas complejas. ¡Esto es puro materialismo y una negación de la realidad espiritual de la conciencia!

Como las investigaciones acerca del cerebro siguen refrendando, es necesario aceptar al menos lo que Edgar Morin ha llamado "unidualismo complejo", es decir mantener la diferencia - y unión - entre cerebro y mente (materia y espíritu). Como lo acepta la neuropsicología espiritualista, nuestro cerebro es el conducto que une nuestros dos componentes fundamentales, que nos permite captar la materialidad en que vivimos, gracias a nuestros órganos de percepción, transferirla al nivel mental donde se produce un segundo procesamiento para, de ahí, volver a la materialidad neuronal para producir la expresión.

El sentido/significado forma parte de la realidad mental y ésta no "reside" en el cerebro ni en las conexiones neuronales sino en la mente/espíritu.

Referencias

Ausubel, D. P. (1960). The use of advance organizers in the learning and retention of meaningful verbal material, Journal of Educational Psychology, 51, 267-272.

Beividas, W. (2014). Una epistemología discursiva en construcción: la teoría semiótica inmanente entre la percepción y la semiocepción, Tópicos del Seminario "La inmanencia en cuestión", pp.139-159. 

Colle, R. (2023): Semiótica, mente y cognición, Revista Chilena de Semiótica, n°18. 

Colle, R. (2016): La ciencia y el espíritu: Científicos en busca del alma, Academia.edu 

Edelman, G. (1992):  “Biologie de la conscience”, París, Odile Jacob.

Morin, E. (1986): “La méthode: 3.  La connaissance de la connaissance”, París, Seuil.

Piaget, J. (1950): “Introduction à l'épistémologie génétique”, Paris, PUF.

Vidales, C. (2023): La cibersemiótica: de los sistemas vivos a los sistemas semióticos, Revista Chilena de Semiótica, n°18. 

La nueva realidad de los buscadores

No es posible pasar por alto la nueva realidad de internet que introducen los chatbots de IA generativa como ChatGPT, de la compañía OpenAI, lanzado el 30 de noviembre pasado. Este chatbot es capaz de responder a las más variadas preguntas

y "de mantener con mucha naturalidad conversaciones sobre casi cualquier tema, de responder a infinidad de preguntas y de crear contenidos casi a la carta!" (Deutsche Welle, 10/12/2022). 

Otros chatbots podrían ir aún más lejos:

"Character.ai, una empresa emergente fundada por exingenieros de Google, puso en línea un chatbot experimental en octubre, el cual puede adoptar cualquier personalidad. Los usuarios crean personajes según una breve descripción y enseguida pueden "conversar" con un falso Sherlock Holmes, Sócrates o incluso Donald Trump. Este grado de sofisticación fascina, pero también inquieta a numerosos observadores con la idea de que estas tecnologías no sean utilizadas para engañar a los humanos, difundiendo informaciones falsas, por ejemplo, o creando estafas cada vez más creíbles." (ibidem)

El primer peligro es que ChatGPT extrae los contenidos de internet sin verificar la validez de las fuentes. OpenAI admite que "el chatbot puede generar informaciones incorrectas" (ibidem).

El segundo peligro es que combina extractos de variadas fuentes, pero no domina el sentido y no puede explicar por qué seleccionó las palabras que forman sus respuestas. OpenAI admite que "las personas podrían creer que interactúan con un individuo real" (ibidem). Recordemos que el conocimiento es una suma de creencias y que, si se cre en las respuestas del chatbot, el conocimiento será cada vez más erróneo.

El tercer peligro, que es el que motiva el presente post, es que muchos de estos resultados vuelven a ser publicados en internet por los usuarios de estos chatbots. Se prooduce de este modo un efecto de bola de nieve, en que los buscadores y los mismos chatbots se ven alimentados por sus propios resultados, poniendo en entredicho - cada vez más - la confiabilidad de los resultados de las búsquedas.

Que los buscadores pudieron detectar este tipo de contenido y advertir sobre ellos o incluso pasarlos por alto sería evidentemente un solución. Sin embargo, los actuales "detectores" no parecen particularmente útiles. Un experto de la revista Xataka evaluó tres de ellos constatando que no ofrecen un resultado consistente a la hora de detectar cuando un texto ha sido generado por una IA: "Estas herramientas nos pueden servir en algunos casos, pero el "problema" es que es una carrera de fondo. Todavía no hemos terminado de digerir ChatGPT y ya estamos a la espera de una nueva y aún más completa versión, así que sí, estamos en un juego del gato y el ratón y, por ahora, el ratón parece ir ganando"(José García, Xataka, 21/01).

En este momento existiría una alternativa, según @cscolari (23/01): Perplexity AI: "Perplexity AI is an answer engine that delivers accurate answers to complex questions using large language models. Ask is powered by large language models and search engines. Accuracy is limited by search results and AI capabilities."(https://www.perplexity.ai). En efecto, incluye información sobre las fuentes de sus respuestas. Combina las API de OpenAI y del buscador Bing.

Referencias

Deutsche Welle: ChatGPT: el bot viral y futuro de la IA que podría cambiarlo todo

García, J.: Hay detectores de ChatGPT para saber si un texto lo ha escrito una IA o un humano. Los he probado. Xataka, 21/01/2022