Como los algoritmos distorsionan el conocimiento

Los algoritmos son las secuencias de órdenes que conforman la base de la programación de los computadores y, ahora, de las respuestas que obtenemos cuando navegamos por internet. 

Las redes sociales utilizan los algoritmos para ordenar lo que nos mostran al abrir su página. Así, Twitter cambió la forma de presentación cronológica de los tuits por una basada en la estadística ("los más vistos"), es decir basados en un algoritmo. Instagram anunció que pronto haría lo mismo. Facebook selecciona los "News Feeds" del mismo modo desde hace tiempo y lo hace ahora con las actualizaciones de estado. (Fortune, 28/03/2016). 

Google Search selecciona los resultados de nuestras búsquedas utilizando un algoritmo ultra-complejo (más de 200 reglas). Además, "para facilitar las búsquedas" ha instalado un sistema de predicción de los términos de búsqueda, basado en este algoritmo combinado además con sus propios sistemas de clasificación. Pretende ser "objetivo" y "reflejar la realidad" pero no toma en cuenta la relativa facilidad para torcer los resultados, por ejemplo utilizando "generadores de búsquedas" que repiten centenares de veces términos que pueden ser ofensivos.

"Supongamos que un enemigo suyo, en un esfuerzo deliberado por manchar su reputación, decide pagarles a los usuarios para que busquen su nombre seguido de la palabra "pedófilo". Un ejército de entusiastas colaboradores, reclutados a través de sitios como Craiglist y Mechanical Turk, de Amazon, está generando el volumen suficiente de búsquedas para que esa palabra reemplace otros términos más positivos que se han asociado a su nombre. Ahora, cualquiera que lo busque también sabrá que quizá usted sea un pedófilo y, recuerde, no hay manera de apelar porque los algoritmos de Google son los que están a cargo y jamás se equivocan." (E.Morozov, "La locura del solucionismo tecnológico", p.168)

Lo más grave es que altera de este modo el conocimiento a nivel global. Y podríamos ir de mal en peor, porque hoy en día los algoritmos son la base del aprendizaje automático que está más que nunca al alcance de cualquier programador y que es también la base del análisis de "big data". (Vea mis posts anteriores sobre "Cambios en el acceso al conocimiento" e "¿Inteligencia? artificial") 

Los algoritmos analíticos son la base de una de las líneas de desarrollo de la "inteligencia artificial", el llamado "aprendizaje supervisado" porque -al menos- los humanos deben intervenir para dar inicialmente a la máquina algunos modelos de lo que se podría considerar útil. El principio básico, tomado del modelo humano (puesto en evidencia por Pavlov), es el "aprendizaje por refuerzo", es decir por medio de la repetición, lo cual es fácil de traducir en un mecanismo estadístico, pero es claramente más mecánico que inteligente. 

Imagine ahora que los medios de prensa empiecen a utilizar este tipo de análisis (¡y las empresas de marketing lo recomiendan!, basándose en lo que más leen sus lectores: orientarán su selección y sus reportajes en función de lo preferido por la mayoría. Y, como se sabe que las noticias deprimentes gustan poco y no se reenvíen (recuerde que los ponen también en Facebook y Twitter), terminaremos con un panorama irreal de "mundo feliz". 

¿Que podemos esperar si, como se lo proponen los expertos en inteligencia rtificial, se pasa de este aprendizaje de máquina supervisado a uno no-supervisado en que la máquina "decidiría" lo que es importante? ¿En base a qué criterios? ¿Funcionaría sin algoritmos? Se habla de "algoritmos capaces de aprender": pero son algoritmos capaces de generar otros algoritmos. Y un programador debe haber determinado el qué y el cómo. Ningún computador puede crear su propia programación. Incluso las redes neuronales (que pretenden emular el cerebro humano) deben ser diseñadas, incluir reglas de valoración y luego entrenadas, al menos para verificar que operen adecuadamente (¿y quien determina lo "adecuado"?). 

Aunque se diga que "No tenemos más remedio que recurrir a máquinas y además necesitamos que estas máquinas sean capaces de interpretar los datos, comprenderlos y sacar conclusiones de forma inteligente" porque "existe un gran valor oculto en los millones y millones de toneladas de datos que una organización puede recabar" (Xataka, 28/03/2016), es el ser humano que aporta la inteligencia, debiendo evaluar estas conclusiones. 

"Debemos dejar de creer que los nuevos filtros y prácticas algorítmicas impulsados por los recientes intermediarios digitales (y sus entusiastas genios de internet) son aproblemáticos, objetivos y superiores por naturaleza a los filtros y prácticas que los precedieron. Esos nuevos filtros podrán ser más veloces, baratos y eficaces pero la velocidad, el costo y la eficacia guardan solo una relación periférica con las funciones civiles que los nuevos filtros y algoritmos desempeñarán en nuestra vida. Si no sometemos a esos filtros más veloces, baratos y eficaces al estricto escrutinio ético que merecen, corremos el riesgo de caer en una de las tantas falacias del solucionismo y celebrar avances relacionados con problemas menos importantes, al tiempo que desatendemos cuestiones más acuciantes aunque menos obvias." (Morozov, p.174)

La cultura misma puede verse afectada en forma global, sobretodo si se deja que sean los algoritmos que determinen lo "más interesante" sobre la base de lo más consultado, leído, visto u oído. Los "clics" y "megusta" tienden a concentrarse en opiniones no calificadas mientras las críticas de expertos resultan poco atractivas para la mayoría.

Más sobre algoritmos en internet:

• La invasión de los algoritmos
• Más sobre algoritmos y datos personales
• 
  

El primer nivel del pensamiento

En el post anterior (sobre Creatividad), me referí a lo que el psicólogo De Bono llama "primer nivel de pensamiento". Explico aquí un poco más de qué se trata. 

La percepción lleva a la representación y a la conceptualización. El fin de este proceso es la comprensión, que es la auto-descripción de lo percibido. Esta auto-descripción se logra por identificación del conjunto de sensaciones, si es familiar e.d. si existe su recuerdo en la memoria), o por su análisis con elementos más sencillos que sean familiares, describiendo las relaciones entre estos elementos. En esta auto-descripción, se usan generalmente significantes, es decir palabras, signos gráficos, etc., que correspondan a conceptos desarrollados en la mente y que son las verdaderas unidades de análisis del proceso de comprensión. 

Cuanto más compleja (más "abarcadora") sea la unidad de análisis usada, más fácil será la descripción de las relaciones entre unidades. Cuanto más simple (menor) sea la unidad de análisis, tanto más difícil será la descripción. Sin embargo, cuanto más simple sea la unidad, tanto más útil resulta para un uso eventual en otras circunstancios. Frente al primer gráfico que sigue, podemos pensar en una escalera. En este caso, el concepto de escalera es la unidad de análisis usada. Es la más compleja en sí y la que permite la descripción más sencilla.

Pero si tomáramos una unidad de análisis más pequeña - que podría ser el "segmento de recta" - podríamos utilizarla también para describir la figura del gráfico siguiente, aunque resultará más difícil describir ambas figuras con esta unidad más elemental. En todo caso, podemos observar que la elección de una unidad de análisis es siempre arbitraria, pero que, por "economía", tendemos a comprender todo por referencia a elementos ya conocidos y simples. Recurrimos siempre a nuestra memoria y a soluciones de problemas que han resultado ser válidas en casos anteriores. 

Además, otorgamos un alto grado de confianza a la información recogida por nuestros órganos de percepción. Muy pocas veces se nos ocurre que esta percepción podría ser errónea o sufrir transformaciones antes de llegar a nuestra conciencia, lo cual ocurre sin embargo a menudo y nos lleva a reaccionar en forma equivocada. Asi, por ejemplo, si un automovilista, al querer limpiar su parabrisas desde adentro, ve que no sale agua, pensará que le falta rellenar el depósito. Su percepción podrá haber sido exacta, pero esto no implica que la razón sea necesariamente la falta de agua. Podría estar obstruido el ducto o bloqueada la bomba de eyección.

Es fácil observar, en este ejemplo, que el error en la respuesta proviene de un "procesamiento" mental demasiado rápido, faltó investigar o recoger información complementaria. En ello habrá influido la experiencia o el aprendizaje anterior de conocimientos de su vehículo por parta del automovilista. Para él, la información "falta de agua" produce la respuesta "agregar agua". Pasa asi del nivel inicial de percepción al nivel terminal de resolución, saltándose una etapa.

Este comportamiento -muy común-, fruto de la educación formal e informal imperante en nuestra cultura, muestra a la vez una confianza ingenua en la percepción y un desconocimiento de la existencia de un nivel inicial de pensamiento, que ocurre bajo el umbral de la conciencia, y del que raras veces nos preocupamos porque se trata justamente de un mecanismo destinado a facilitar una respuesta rápida a situaciones desafiantes. Pero no siempre es necesaria una respuesta rápida. Y muchas veces necesitamos una respuesta más elaborada, basada en un análisis más detenido de la información obtenida. El resultado de este desconocimiento es que la percepción aparece a la conciencia ya teñida de un "pre-juicio". En efecto, tiende a transformarse sobre la base de la experiencia previa, de los valores culturales que hemos asumido, de opciones prefijadas que hemos hecho nuestras a medida que se desarrolló nuestra existencia. De este modo, lo percibido llega filtrado a la conciencia, debido a estas influencias y a mecanismos subconscientes. Llega por lo tanto parcialmente procesada, sin que nos demos cuenta de ello. Aparece a la conciencia como la manera obvia de percibir. Al faltar la conciencia de que no es tan obvio, un análisis racional posterior de la información así admitida resultará difícil o inválido. 

Creatividad

La creatividad se define como la capacidad de generar nuevas ideas o conceptos, o nuevas asociaciones entre ideas y conceptos conocidos. Es evidentemente una habilidad del sistema nervioso y no es posible estudiarla sino considerando los aportes de las ciencias cognitivas dado ese carácter mental, basado en estructuras biológicas.

Cuando hablamos de creatividad, debemos distiguir dos situaciones o tipo de problemas diferentes: 1. Lo que se podría llamar "creatividad ordinaria", que corresponde a lo que hacemos diriamente para solucionar pequeños problemas y para realizar nuestra labor profesional. 2. Lo que podríamos llamar "creatividad específica", que corresponde a la aplicación de la imaginación para solucionar problemas complejos inventando nuevas vías de solución o nuevas hipótesis, o creando nuevos objetos. Una habilidad de este tipo no suele ser propia del común de los seres humanos sino solo de algunos privilegiados, sea que esta habilidad sea propia de su personalidad sea que la hayan desarrollado mediante algún tipo de entrenamiento.

¿Que es lo que más limita al "común de los mortales"? El no ser capaz de salirse de las "formas comunes" dice el dr. De Bono, eminente fisiólogo y psicólogo inglés. Lo ejemplifica del siguiente modo en algunas de sus conferencias: solicita a sus auditores que imaginen un reloj que cumpla eficientemente su rol sin tener ninguna parte móvil (ni caracteres digitales) visible. Raras veces obtiene la respuesta correcta, aunque es sencilla: sería un reloj acústico (que "dijera" la hora en vez de mostrarla). Estamos tan acostumbrados a ver un reloj que nos cuesta pensar en un reloj parlante. Lo mismo ocurre en numerosas otras experiencias: no podríamos nunca abrir una puerta que deba levantarse (salvo quizás la del garaje), tan acostumbrados estamos a empujarlas hacia un lado (o esperar a que se abran solas).

¿Cuál es el problema? Por una parte, existe un campo cerebral de elaboración de información que prescinde normalmente del análisis conciente (a no ser que hagamos un esfuerzo especial para imponerlo), que varía principalmente en función de factores emocionales y aparece como un mecanismo regulador y protector de la integridad de la persona. Por otra parte, interviene la memoria. Lo percibido (o buscado) llega habitualmente a la conciencia filtrado por mecanismos subconcientes, parcialmente procesado sobre la base de lo ya acumulado en nuestra memoria. La experiencia o el aprendizaje anterior de ciertos tipos de conocimientos no solo puede facilitar nuestra comprensión o reacción: también puede llevar a una conclusión errónea si no se toman ciertas precauciones. Finalmente, los métodos dominantes de la educación formal no ayudan mucho a desarrollar el pensamiento crítico y menos aún a lo que de Bono llama "primer nivel de pensamiento", que debemos intentar llevar a nivel conciente realizando una triple selección:

1. aprehender la parte de la situación percibida que ha de ser utilizada 
2. seleccionar los conceptos que han de ser usados en el procesamiento 
3. seleccionar los valores y prioridades asociados a estos conceptos. 

Solo después de realizar estas operaciones podemos pasar al segundo nivel, que es el que utilizamos en forma habitual para el "tratamiento" de la información percibida. Cuando prescinde de este "primer nivel", nuestro pensamiento se basa en una triple falacia:

1. Estimar que la manera "establecida" de considerar una situación es la "justa" y la única posible. 
2. Creer que procesando lógicamente la situación logrará una mejor percepción de la misma. 
3. Creer que si la lógica o matemática aprendida es suficientemente buena, debe permitir encontrar siempre la respuesta exacta, cualquiera sea el punto de partida.

Técnicas

Algunas técnicas pueden ayudar a ser creativo. La más conocida es la lluvia de ideas (brainstorming) que De Bono sugiere orientar a la asociación de todo tipo de ideas y conceptos por más ridículas o absurdas que parezcan (cualquier censura se prohibe). Solo al terminar el trabajo grupal se hace una revisión y se va descartando todo lo que resulta imposible, no sin antes tratar de relacionar ideas enunciadas en forma separadas. En un centenar de propuestas, dice, sería extraño que no hubiese una o dos que valgan la pena de ser exploradas.

Otra técnica es la que llamó "Seis sombreros para pensar": expresar una opinión tras otra cambiando de "sombrero". El sombrero blanco implica que el punto de vista tiene que ser lo más neutral posible, analizando las cosas con datos, hechos o cifras. El sombrero rojo corresponde a una visión más subjetiva, guiada por las emociones, los sentimientos o las intuiciones. El sombrero negro es para ser crítico de manera negativa y pensar por qué algo no podría salir bien. El Sombrero amarillo es el contrario: se buscan los aspectos positivos sobre un determinado aspecto. El ssombrero verde abre las posibilidades creativas y está íntimamente relacionado con la idea de pensamiento lateral o divergente. El sombrero azul es el que controla los tiempos dados a cada uno de los anteriores.

De Bono propone también el "pensamiento lateral", una forma de desarrollar este "primer nivel" de pensamiento, comparándolo a lo que ocurre cuando nos encontramos en un callejón sin salida: retrocedemos, exploramos y tomamos una vía alternativa.

Además sugiere -en la lluvia de ideas u otro ejercio- el uso de una preposición neutra (propone "PO"), que no es ni "y", ni "o", ni "sí" ni "no". Una expresión podría ser, por ejemplo, "reloj PO zapato", lo cual puede hacer pensar en zapatos que registren las horas de uso (algo hoy considerado en los "wearables").

¿Se necesita algo más?

Por cierto volutad, pasión, paciencia y resiliencia (resistencia frente a los fracasos). Alvin L. Simberg ha estudiado las características de los bloqueos de la creatividad, anotando entre ellos el aprendizaje social de modelos de conducta, de normas y modelos de interacción. Así, saber romper con la rutina diaria o con las ideas comunes es muy importante. Y aunque la especialización en el ámbito de interés puede ser una razón del bloqueo, también puede ser necesaria para perfeccionar un nuevo modelo (es difícil engendrar una idea nueva si no se domina toda la información relevante sobre el problema).

¿Donde están los creativos?

Esta pregunta es capciosa. En efecto, se acostumbra llamar "creativos" a los diseñadores y publicistas. Y Google nos referiría a éstos si buscamos los términos "estudiar la creatividad". Pero si bien la creatividad forma parte del quehacer de estos profesionales, el campo es mucho más amplio y los verdaderos creativos -los genios creativos- mucho menos numerosos a menos que consideremos toda la historia.

No todos los días se puede crear un iPhone o inventar un Facebook. Puede ser interesante estudiar el origen de éstos y otros inventos: veríamos que algunos son casuales, pero muchos son el producto de una larga historia de intentos fallidos y reinicios.

En las ciencias básicas vemos surgir constantemente propuestas y investigaciones novedosas, y sus correspondientes descubrimientos. ¿Pero que ocurre con las ciencias sociales? Sin ponerlos en un mismo plano de rigor, puedo citar a algunos que están en mi biblioteca: J.Searle, U.Eco, N.Luhman, E.Morin, M.Mc Luhan, K.Wilber, quienes -al menos- han introducido conceptos o enfoques nuevos. (¡Perdón si no cito su autor preferido!)

¿Son creativos los medios de comunicación? 

Internet los ha sacudido, pero -salvo excepciones- siguen repitiendo ahí su misma fórmula con meras "adaptaciones" y escasas soluciones novedosas (¡Agregar vídeos en las páginas web de un diario no implica mucha creatividad!). Lo que se necesita es "repensar la comunicación" desde la esencia de lo digital... ¡Creativamente! ¡Y dejarse interpelar por los enfoques que pueden parecer fantasiosos (estoy pensando, por ejemplo, en "Salvar los medios de comunicación" de Julia Cagé, que propone que los medios pasen a ser fundaciones sin fines de lucro). O los que proyectan el futuro, como "La singularidad está cerca" de Ray Kurzweil.

Un buen ejercicio podría ser también explorar los buenos autores de ciencia ficción tecnológica (Julio Verne previó el París de 1960 y Asimov previó en 1964 varios artefactos hoy existentes, como también en "2001").

Fotograma de "Sentencia Previa"

---

INCOM-Chile, la Asociación Chilena de Investigadores en Comunicación acaba de anunciar su III Congreso, a efectuarse en noviembre 2016, sobre el tema CREATIVIDAD E INNOVACIÓN PARA INVESTIGAR LA COMUNICACIÓN (Convocatoria aquí).

---

Referencias:
De Bono, E.: "Po: Beyond Yes and No", Pelican Books, Aylesbury, 1973. "The Use of Lateral Thinking", Penguin Books, Harmondsworth, 1975 (El pensamiento lateral, Barcelona, Paidós). "Six Thinking Hats: An Essential Approach to Business Management", Little, Brown, & Company, 1985.
Simberg, A.L.: "Los obstáculos a la creatividad", en Davis y Scott (Comps.): Estrategias para la creatividad (pp. 123-141). Buenos Aires, Paidós, 1975.
Asimov, I.: “Visit to the World’s Fair of 2014”, New York Times, 1964.
Verne, J.: "París en el Siglo XX", Planeta, 1995.