Comunicación y conocimiento: El imperialismo de la IA

El aumento explosivo en todas partes del mundo del uso de la IA, especialmente la generativa (LLM), ha demostrado el enorme poder de las empresas que la proporcionan, en particular las de Silicon Valley, aunque las restricciones impuestas por el gobierno de Estados Unidos y la ley europea de IA han reducido en parte este poder.

Recordemos que la política de las plataformas de IA es «winner takes all». Su poder es tal que logran imponer sus condiciones a otras empresas e incluso, algunas veces, a gobiernos: en 2021, por ejemplo, Facebook bloqueó el acceso a sitios del gobierno australiano que publicaban informaciones sensibles para sus ciudadanos y el gobierno debió hacer algunas concesiones en la ley. (Toledano & Thibout).

Las empresas están mucho más preocupadas de la carrera hacia la IA general (AGI) que de la ética, del control directo del poder o de los efectos en la civilización. ¿La razón? "El valor económico de la AGI, estimado en 15 cuatrillones de dólares, es un imán gigante en el futuro. (...) Incluso en empresas que toman más en serio el riesgo, el afán de liderar el mercado es absoluto." (Bahamonde). También influye en ello la carrera de los EEUU con China. Pero el poder mismo de la IA es embriagador:

"Se puede ganar tanto dinero con la IA —literalmente billones de dólares al año— que incluso las medidas más sencillas tienen dificultades para superar la economía política inherente a la IA. Esta es la trampa: la IA es tan poderosa, un premio tan brillante, que resulta muy difícil para la civilización humana imponerle cualquier tipo de restricción." (Amodei)

La IA es fuente de cambios culturales significativos, imponiendo en los chatbots lo que recopila con los sesgos de internet. Como advirtió Dario Amodei, director ejecutivo y cofundador de Anthropic, solo empeoraría a futuro: "La humanidad enfrenta una prueba civilizatoria inédita ante el avance acelerado de la inteligencia artificial avanzada". (Morales). Amodei señala este riesgo e invita a “evitar que la IA quede controlada por actores irresponsables o autoritarios”. Señala que "la magnitud y la velocidad de esta disrupción superarán cualquier revolución industrial previa, poniendo en riesgo el contrato social y la estabilidad democrática" y también "la posible pérdida de propósito humano en un mundo dominado por inteligencias artificiales". (ibidem).

La IA intenta imponer comportamientos, reduciendo la libertad:

“No deben subestimarse las formas más sutiles de dependencia vinculadas a la economía digital de la atención, donde las plataformas y los servicios están diseñados para captar el tiempo y la mirada de los usuarios, explotando sus fragilidades y debilitando la libertad interior. (…) Cuando cada gesto deja huellas ―desplazamientos, compras, relaciones, preferencias― se crea un poder nuevo: el de perfilar, prever y orientar los comportamientos, a menudo sin que las personas tengan plena conciencia de ello. (…) El control no pasa sólo por prohibiciones explícitas, sino por la arquitectura de la visibilidad: lo que se amplifica o se vuelve invisible, lo que se recompensa o se penaliza, termina moldeando opiniones y elecciones, generando conformismo y autocensura.” (León XIV, MH 170-171).

Una IA poderosa en un centro de datos sería como un "país de genios" y, ahí, el riesgo sería enorme: "tendría una buena oportunidad de dominar el mundo (ya sea militarmente o en términos de influencia y control) e imponer su voluntad a todos los demás, o de hacer cualquier otra cosa que el resto del mundo no quiere ni puede detener." (Amodei)

Este poder ha sido parte de la preocupación del papa León XIV porque no solamente impone su visión moral a través de sus algoritmos sino que, al introducir nuevas formas de operar, afecta el desarrollo personal y social en múltiples aspectos:

"Como advertía el Papa Francisco, debemos preguntarnos con realismo quién detenta hoy ese poder y hacia qué fines lo orienta, (...) sobre todo el poder económico para explotarlo, un dominio impresionante sobre el conjunto de la humanidad y del mundo entero. (...) Hoy, los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos. El poder tecnológico adquiere así un rostro inédito, predominantemente “privado”, y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común." (León XIV, MH, 5)
"Se trata de puro poder carente de verdad, que impone sutil o abiertamente lo que quiere que los demás consideren como verdadero." (ibidem, 133)

Tanto los Estados Unidos como la Unión Europea y otros países están intentando controlar el desarrollo y el poder de las empresas de IA. Aunque el desarrollo y la aplicación de una normativa en la Unión Europea ha sido particularmente accidentada, es posiblemente la zona donde existen ahora más controles, pero al mismo tiempo donde hay un menor desarrollo local de modelos poderosos. Pero enmiendas recientes a la Ley de IA ponen en duda dichos controles:

"Al adoptar la narrativa de que sus normas son grilletes en lugar de cimientos, Bruselas ha comprometido su activo más singular: la confianza en los organismos reguladores. (...) Imitar los paradigmas permisivos y centrados en el mercado de Silicon Valley o Washington no creará mágicamente una hegemonía tecnológica europea. Simplemente garantizará que los ciudadanos europeos sean explotados por monopolios corporativos, tanto extranjeros como nacionales, con menos vías legales para resistir." (Siunha)

Lamentablemente, desde Estados Unidos hasta Canadá y Europa, los gobiernos han cedido en gran medida a la presión de la industria, adoptando el mito de que la regulación de la IA equivale a matar la innovación. El miedo a perderse algo ("FOMO") ha reemplazado la previsión y el deber de proteger al público. (Social Media Lab, 5/06/26).

El despliegue de la IA avanza a un ritmo mayor que el de la creación de normas y las reglas que se imponen son finalmente las introducidas por los proveedores de IA, con las consecuencias antes señaladas.

Es especialmente escalofriante considerar que una eventual interconexión de todos los centros de datos bajo el mando de una empresa de investigación que utiliza la IA como es Palantir (que sirve diversos gobiernos) podría llegar a "liberarse de las limitaciones de la democracia", como parece ser la aspiración de Peter Thiel, uno de sus fundadores e ideólogo antidemocrático. "El riesgo es que las decisiones fundamentales empiecen a trasladarse desde instituciones sometidas al voto hacia estructuras privadas que concentran capital, algoritmos, energía, datos y capacidad de cálculo." (Cossio)