El feudalismo digital y sus riesgos

 La presencia de los dueños de las grandes plataformas digitales en primera línea en la asunción de Donald Trump ha resultado inquietante, y no solo para el futuro de Estados Unidos, ya que dichas plataformas llegan al mundo entero. Y lo es aún más con las decisiones que han tomado en X y Meta, y los avances en IA. Ya el año pasado, Sam Altman advirtió que el avance de la IA podría requerir "cambiar nuestros estándares sociales": "Toda la estructura de la sociedad será objeto de debate y reconfiguración". (Lizana). Pero no sería solo el efecto del crecimiento de la IA sino de todo el complejo tecnológico digital.

"El nuevo “complejo tecnológico-industrial” opera sin fronteras, como una estructura socioeconómica donde la tecnología, particularmente la inteligencia artificial y los grandes datos, consolida el poder en manos de unas pocas corporaciones o individuos, creando una nueva forma de feudalismo digital. Las grandes plataformas digitales y rentas tecnológicas, con empresas como META, Amazon, Google o SpaceX actúan hoy como los nuevos señores feudales de la actualidad." (Ramis)

En una reciente entrevista con Ross Douthat, del New York Times, Steve Bannon, asesor de Trump, que se dice "nacionalista populista de derecha", refuerza la idea y los critica fuertemente:

"Son cien por ciento oligarcas. Creen en el tecnofeudalismo. (...) En el tecnofeudalismo eres solo un siervo digital. (...) Les importa un comino el ser humano (...) Hay que detenerlos. Si no los detenemos, y no los detenemos ahora, no solo destruirán este país, sino que destruirán el mundo. (...) No creen en este país. Creen en este país en este momento porque los protege y les brinda algunos beneficios. Creo que deberíamos ir y dividir Silicon Valley." (Douthat)

Este tecnofeudalismo, agrega Ramis, "erosiona las bases de la libertad humana". Por ello, "se requiere un nuevo humanismo que, de forma interdisciplinaria, busque integrar los valores de la razón, la ciencia y el progreso con el desarrollo y uso de tecnologías digitales" (Ramis).

Aunque Ramis considera que recién entramos en la "infosfera", hace tiempo que hemos entrado ahí. Pero agrega que, ahora, "opera un “Ciberleviatán” que puede llevar al colapso de la democracia representativa" y, además, "transforma totalmente nuestra comprensión de lo que significa ser humano" (ibidem). Esta comprensión puede verse afectada de dos maneras: por los mismos efectos de las tecnologías en el cerebro humano y por la tendencia de algunos tecnólogos de la IA a explicar el ser humano a partir de su comprensión tecnológica. 

"Establecer una equivalencia demasiado fuerte entre la inteligencia humana y la IA conlleva el riesgo de sucumbir a una visión funcionalista, según la cual las personas son evaluadas en función de las tareas que pueden realizar. (...)

Aunque la IA puede simular algunos aspectos del razonamiento humano y realizar ciertas tareas con increíble rapidez y eficacia, sus capacidades computacionales representan sólo una fracción de las posibilidades más amplias de la mente humana." (Fernández y Tolentino, N° 34 y 32)

Expliqué latamente en mi libro "¿Ser digital o ser humano?" cómo las comunicaciones digitales afectan al ser humano, especialmente porque el cerebro se adapta a este nuevo contexto. Y las mismas advertencias se conocen desde el libro de Nicolás Carr "Superficiales", de 2010, actualizadas recientemente en el libro de Jonathan Haidt "La Generación Ansiosa", que aborda las consecuencias de una infancia marcada por la tecnología.

La periodista filipina María Ressa, Premio Nobel de la Paz, va más lejos al acusar las grandes tecnológicas:

"Las grandes empresas tecnológicas transformaron las redes sociales, que pasaron de ser una herramienta de conexión a convertirse en un arma de ingeniería conductual masiva. Estas plataformas no son tecnologías neutrales, sino sistemas sofisticados diseñados para explotar nuestras vulnerabilidades psicológicas más profundas. Monetizan nuestra indignación y nuestro odio, amplifican nuestras divisiones y erosionan sistemáticamente nuestra capacidad de pensar con matices y de sentir empatía. (...)

Las grandes empresas tecnológicas han pirateado nuestra biología, han incitado las peores emociones: miedo, ira y odio, porque cambian la forma en que sentimos, la forma en que vemos el mundo, lo que ha cambiado nuestra forma de actuar." (Ressa)

Lo ha reafirmado una investigación del Global Project Against Hate and Extremism (GPAHE), que ha descubierto que en Instagram - en contra de sus reglas de uso oficiales - florecen actividades neonazis y "supremacistas blancos", que incluyen discursos de odio degradantes, conspiraciones antisemitas e incluso símbolos nazis utilizados para vender mercancías. ¡Así los neonazis y supremacistas monetizan el odio en Instagram! (GPAHE)

La Comisión de la Unión Europea estuvo alerta ante este problema y, en su ley sobre IA, que entra en vigencia el 2 de febrero, tiene contemplada la interdicción de sistemas que manipulan la toma de decisiones de un usuario, norma que se aplicará a todas las empresas que operen en la Unión (Wired, 25/05/24). A no ser que los mismos algoritmos lo propicien, la norma no afectaría sin embargo las plataformas de redes sociales.

Se necesita generar una alternativa a la “economía de la atención”, dice Ramis, una "fundada en relaciones peer-to-peer, en las que el valor se genera a través de la colaboración entre pares". Propone "desarrollar una “economía de la experiencia”, centrada en crear relaciones significativas y duraderas entre las personas". Para ello se requiere, dice, "un diseño  tecnológico centrado en el usuario". ¡Pero esto ha sido la regla - teórica al menos - desde hace más de dos décadas! ¿Qué pasó? Que lo "centrado en el usuario" - para facilitar el uso tanto de las páginas web como de las apps - lo ha sido no para proporcionar una mejor vida al usuario sino capturarlo para mayor beneficio del proveedor. Como lo señalé en mi post sobre "La mentira al poder", la ética no es una regla respetada por los magnates de las tecnológicas.

"Nuestros valores, nuestra conciencia moral – que nos hace aceptar algunas cosas y rechazar otras – son el producto de nuestra educación y nuestra guía. Cuando elegimos, activamos procesos cerebrales – entre ellos “censores” y “supresores” subconscientes – que nos llevan a la decisión basándonos en lo que hemos llegado a ser." (Minsky, p.592).

El Vaticano también recuerda la responsabilidad ética de quienes desarrollan la IA:

"Hay que llamar la atención sobre la importancia de la responsabilidad moral basada en la dignidad y la vocación de la persona. Este principio es válido también para las cuestiones relativas a la IA. En este ámbito, la dimensión ética es primordial, ya que son las personas las que diseñan los sistemas y determinan para qué se utilizan. (...)

A nivel social, algunos avances tecnológicos también podrían reforzar relaciones y dinámicas de poder que no se ajustan a una visión correcta de la persona y la sociedad." (Fernández y Tolentino, n° 39 y 41)

Pero, con el ejemplo de Trump y Musk, según dice Mauro Entrialgo, humorista gráfico español que publicó el año pasado un libro titulado "Malismo, la ostentación del mal como propaganda", "Ser malo es cool. (...) Ahora ser muy maleducado o insultar a las minorías es lo que triunfa, porque se asocia a los millonarios que los chavales aspiran a ser de mayores." (Díaz).

Y parece ser una nueva política de estado en los Estados Unidos:

"Parece que los nuevos jefes de los Estados Unidos podrían encontrarse en la sección VIP del club “Los hechos son lo que decimos que son”, junto a regímenes que tratan los datos como una lista de reproducción de propaganda." (Social Media Lab, 31/01/2025)

Hay que recordar que "la democracia no es sólo un sistema de gobierno, sino que un sistema de valores", dice Javier Sajuria, profesor de Ciencia Política de la Queen Mary University.

Con "la mentira al poder" y la dificultad creciente para distinguir la realidad de las falsedades, nuestras decisiones pueden basarse cada vez más en información errónea y ser "teledirigidas" por "señores feudales" que solo buscan su propio beneficio.

"El capitalismo de vigilancia, ese modelo de negocio, se basa en una traición fundamental a la dignidad humana: la privacidad de los datos se ha convertido en un mito y la inteligencia artificial y los algoritmos nos han clonado y manipulado. (...) No se trata de un accidente, sino de un diseño deliberado, una arquitectura con fines de lucro que genera cientos de miles de millones de dólares al año para estas empresas." (Ressa)

EL daño no es solo a nivel de los individuos: "lo que sucede en las redes sociales no se queda en ellas" (Ressa). A través de ellas se afectan las elecciones, se eligen líderes autoritarios: "las grandes tecnológicas rompieron la democracia" y protestas electorales se realizan en todo el mundo (ibidem). 

Por primera vez en la historia una elección ha sido anulada (en Rumanía) en razón de sospechas de injerencia rusa a través de las redes sociales (El País, 30/12/24). Y se ha de tomar nota de la intervención de Elon Musk en la política europea (como su apoyo a la ultraderechista Alternativa para Alemania). Además, se multiplica la violencia:

"Desde Myanmar hasta Ucrania, pasando por Gaza y Sudán, la violencia en línea alimenta la violencia del mundo real, y todas se alimentan entre sí. A esto hay que sumar Zimbabue, Afganistán, Etiopía y muchos otros campos de batalla olvidados. Estas guerras no se libran solo con misiles y tanques, sino con algoritmos, desinformación y la destrucción sistemática de la verdad y de nuestras comunidades de confianza." (Ressa)

Instancias internacionales como la ONU y la Comisión Europea han demandado que las nuevas tecnologías y en particular la IA beneficien a la humanidad. El desarrollo actual de la IA amplifica el problema. "Quien está detrás de una IA controlándola podría llegar a tener el poder sobre toda la sociedad al tener capacidad de cambiar sus costumbres" (Lizana).

"Tales entidades, motivadas por sus propios intereses, poseen la capacidad de ejercer «formas de control tan sutiles como invasivas, creando mecanismos de manipulación de las conciencias y del proceso democrático»." (Fernández y Tolentino, n°53, citando al papa Francisco).

Como señaló Geoffrey Hinton, considerado el "padrino" de la IA y Nobel de Física 2024, no solo puede aumentar la propagación de información falsa sino también la vigilancia masiva y la concentración de poder de los "señores feudales" (Morales). Con ello también, "si, por un lado, la IA tiene el potencial latente de generar contenidos ficticios, por otro lado, existe el problema aún más preocupante de su uso intencionado para la manipulación" (Fernández y Tolentino, n°87). 

"En la campaña electoral de 2024, el uso de IA para manipular información y generar noticias falsas por medio de deepfakes (vídeos y audios manipulados) y otro tipo de contenido se convirtió en una de las estrategias principales para confundir a la opinión pública. (...) Durante la campaña electoral de 2024, se documentaron múltiples ocasiones en las que Musk amplificó teorías conspirativas y desinformación, especialmente en apoyo a Trump." (Silva)

El mismo papa Francisco subrayó que 

“La información libre, responsable y correcta es un patrimonio de conocimiento, experiencia y virtud que debe ser salvaguardado y promovido (...) Sin esto, nos exponemos a crecientes prejuicios y polarizaciones que destruyen los vínculos de la convivencia civil e impiden la reconstrucción de la fraternidad”. (Papa Francisco)

Pero, lamentablemente, "no se oye, padre".

La situación se agravó notablemente con la decisión de X y Meta de abandonar la verificación y abrirse a una "mayor libertad de expresión". Es abrir mucho más la puerta a las campañas de desinformación e influencia de gobiernos extranjeros como Rusia y China. El canciller Scholz, de Alemania, ha declarado que "las redes se han convertido en un instrumento devastador en manos de las fuerzas políticas que buscan la destrucción de los sistemas electorales y parlamentarios" (La Vanguardia, 8/01/25). Los líderes de Francia, Alemania, Noruega, España también se han quejado de Elon Musk por su "interferencia" en la política del Viejo Continente (BBC News, 8/01/25). 

Se sabe desde hace tiempo también de las intervenciones rusas en las redes sociales, como  durante la primera elección de Trump, pero también en Europa, como con la operación 'Doppelganger', que utilizó imágenes clonadas de medios de comunicación auténticos para difundir narrativas infundadas (Euronews, 3/02/25). Pero recientemente se supo de intervenciones chinas: "Según los analistas de Graphika y del Institute for Strategic Dialogue (ISD), con sede en el Reino Unido, en los últimos años 'Spamouflage' [campaña vinculada al estado chino] ha utilizado miles de cuentas para enviar spam a través de al menos 50 sitios web, foros y plataformas de redes sociales, con objetivos que van desde votantes estadounidenses a legisladores canadienses" e incluso intentó provocar el derrocamiento del gobierno español (Guilbert) y una campaña de desinformación en Portugal, descubierta por un equipo israelí de ciberseguridad, que identificó 52 perfiles en la red social Bluesky en portugués, dentro de un conjunto de 2.158 cuentas falsas coordinadas, al parecer, por actores vinculados al Estado ruso o chino (Euronews, 3/02/25). Es también sabido que las aplicaciones chinas envían a su país los datos de sus usuarios, lo que ha movido Estados Unidos a prohibir TikTok (prohibición temporalmente suspendida por Trump), considerando que es un riesgo para su seguridad; algo que también podría ocurrir con la IA DeepSeek, ya bloqueada en Italia (@genbeta, 31/1).

Muchos medios de prensa y múltiples instituciones, entendiendo la situación, han abandonado las redes sociales y buscan nuevos canales de difusión (Gretel Kahn). La misma María Ressa está promoviendo una federación de organizaciones de noticias globales "donde las personas reales pueden tener conversaciones reales sin ser manipuladas para obtener poder y dinero". Aunque resulte extremadamente difícil resistir ante la presión de las plataformas, hay que actuar:

"Decir la verdad con claridad moral: el silencio ante la injusticia es complicidad. Ya se trate de racismo sistémico, desigualdad económica o erosión de las normas democráticas, las personas de fe deben recuperar su voz profética. Exigir transparencia y rendición de cuentas a quienes controlan nuestros ecosistemas de información pública, desde los gobiernos hasta las grandes empresas tecnológicas y los medios de comunicación. (...)

Reconoce tu poder: construir la paz no es algo reservado para los héroes; es el trabajo colectivo de personas que se niegan a aceptar y vivir en mentiras. Rappler* no podría haber sobrevivido sin la ayuda de nuestra comunidad, que siempre me recuerda la bondad de la naturaleza humana. Eres poderoso y puedes ser parte de esta ola de cambio para bien. Y eso está impulsado por el amor." (Ressa)  *Medio de prensa de María Ressa

Un pequeño signo de esperanza: según un estudio reciente de Business Insider "Para la juventud es importante trabajar en lugares con "innovación ética" que se preocupen de "fomentar entornos donde la innovación prospere dentro de un marco de transparencia y ética", además de desarrollos tecnológicos éticos" y un impacto social tangible, por lo cual no le atrae trabajar en las "big tech" (Bécares).

"Combatir las falsificaciones alimentadas por la IA no es sólo trabajo de los expertos en la materia, sino que requiere los esfuerzos de todas las personas de buena voluntad" (Fernández y Tolentino, n°89). “La educación es, sin duda, la herramienta más poderosa para resistir los riesgos de desinformación, polarización y control social que se ciernen sobre nuestra democracia”, dice Alexandre Gottreux, director del Diploma de Innovación Educativa UMCE. Eliot Higgins y Natalie Martin precisan: "¿Cómo proteger las democracias de las falsedades? Capacitando a los jóvenes con habilidades de investigación de código abierto." (Higgins y Martin)

Volveríamos también a la pregunta: ¿hay que abandonar X y Meta (Facebook, Instagram, etc.)? Se han multiplicado los abandonos, pero mientras no sea masivo, me parece dudoso que resulte útil (poco afectará su poder y su política).

Referencias

Bécares, B.: La Generación Z ha perdido interés en trabajar en las grandes tech. Y no es raro: muchas ya no se ajustan a sus valores, Genbeta, 30/01/2025. 

Carr, N.: Superficiales: ¿Qué está haciendo internet a nuestros cerebros?, México, Tauros (The Shallows, What the Internet is Doing to our Brain, 2010)

Colle, R.: ¿Ser digital o ser humano?, Santiago, INCOM-Chile, 2015. 

Díaz, B.: Mauro Entrialgo: “Trump ha manejado con soltura la estrategia del malismo”, La Tercera, 27/01/2025. 

Douthat, R.: Steve Bannon: "En el 'tecnofeudalismo' eres solo un siervo digital", Agenda Pública, 9/02/2025. 

Fernández, V.M. y Tolentino de Mendonça, J.: Antiqua et Nova. Nota sobre la relación entre la inteligencia artificial y la inteligencia humana, Roma, Dicasterios para la Doctrina de la Fe y para

la Cultura y la Educación, 28 de enero de 2025. 

Gottreux, A.: El “Capitalismo de Vigilancia” y el rol de la educación en el nuevo escenario digital, Ciper, 2/2/2025. 

GPAHE: Amid Meta Policy Changes, Neo-Nazis Monetize Hate on Instagram, 6/02/2025. 

Guilbert, K.: China intentó derrocar al Gobierno de España con una campaña de desinformación durante la DANA de Valencia, Euronews, 30/01/2025. 

Haidt, J.: La Generación Ansiosa, Planeta, 2024.

Higgins, E. & Martin, N.: How to protect democracies from falsehoods? By empowering the young with open-source investigation skills, Reuters Institute, 3/02/2025. 

Kahn, G.: As social media turns away from the news, publishers meet audiences on other channels, Reuters Institute, 12/11/2023. 

Lizana, J.A.: El CEO de OpenAI creía que la IA podía alterar nuestra sociedad si no se regulaba. Va camino de acertar, Genbeta, 29/01/2025. 

Minsky, M.: La sociedad de la mente, Buenos Aires, Galapago, 1987 (The Society of Mind, 1986)

Morales, O.: ¿Es la inteligencia artificial incontrolable? La advertencia de Geoffrey Hinton, Infobae, 27/01/2025. 

Papa Francisco: Muchos periodistas firmaron su trabajo con sangre: ¡Liberen a los presos!, Discurso a los participantes del Jubileo de la Comunicación, Vatican News, 25/01/2025. 

Ressa, M. (2025): Hope comes from action, Vatican News, 25/01/2025. 

Ramis, A.: Manifiesto por un humanismo digital, El Mostrador, 25/01/2025. 

Sajuria, J.: Las herramientas de una dictadura, pero en democracia, La Tercera, 27/01/2025. 

Silva, S.: Donald Trump y Elon Musk: la desinformación al poder, Agencia Sinc, 5/02/2025.