¿Moderar o no moderar las redes sociales?

 No consideraré aquí la moderación de red que corresponde al comercio sino la relativa a las plataformas. En el primer caso, se trata de optimizar la relación con los clientes, generalmente en una situación de bidireccionalidad (conversación), lo cual es muy diferente en el caso de las plataformas.

¿Que es la moderación de contenidos? "Consiste en la búsqueda y detección de contenido inapropiado que haya podido publicar un usuario en una plataforma, como en la web, en el blog o en las redes sociales." (Pina) Aquí surgen dos grandes preguntas: 1. ¿Moderar (eliminando envíos) es limitar la libertad de expresión? y 2. ¿Con miles de millones de posts diarios, es realmente posible filtrar lo que se publica? 

1. La libertad de expresión

La absoluta libertad existe únicamente, actualmente, en las redes Parler y Truth Social: "No hay ningún tipo de moderación de contenidos y caben comentarios racistas, sexistas o que inciten a la violencia" (Pascual). Son dos excepciones: las otras redes y plataformas tienen todas algún tipo de control.

Para la UNESCO, deben existir límites "aceptables" a la libertad de expresión:

"Si bien los Estados tienen la obligación de alinearse a normas internacionales que establecen ciertos límites aceptables sobre la libertad de expresión, es necesario buscar los equilibrios adecuados para que las regulaciones legítimas protejan los derechos humanos de las personas usuarias y no deriven en formas de censura estatal." (UNESCO)

¿Conservar y proteger una internet libre? Gustavo Gómez, director ejecutivo de Observacom, una organización de política pública sin fines de lucro enfocada en asuntos de comunicación, declaró:

“Lo que estamos preocupados desde sociedad civil es sobre muchos aspectos de Internet, alentando y tratando de proteger un Internet libre y abierto, y en particular protegiendo y promoviendo los derechos de los usuarios en Internet, en particular dentro de las redes sociales.” (Citado por Osorio)

¿Los administradores de las redes deben o no intervenir activamente en el control del contenido que quieren publicar los usuarios? ¿Es legal, justo, razonable? ¿O bien han de ser neutrales y respetar la libertad de expresión? Como dice Peña, es un tema amplio y complejo:

"Primero, porque afecta y remite a valores, como la libertad, la igualdad o el pluralismo político, a derechos de libre expresión e información, privacidad, seguridad, o no discriminación, y a bienes públicos, como la participación, la deliberación o la inclusión social.

Segundo, porque se relaciona con aspectos negativos, cuando no patológicos, de Internet, como la proliferación de contenidos banales, estúpidos, ofensivos, dañinos o directamente ilegales, y se puede emparentar con actividades tan antipáticas como la censura, la vigilancia y el control sobre los individuos." (Peña, p.271)

Además surgen problemas ligados a la legislación de cada país, a los fines económicos (obtener ganancias ofreciendo sin embargo un servicio gratuito), etc.

Las plataformas sociales optan por algún mecanismo de moderación principalmente para proteger su imagen y reputación y "porque el contenido inapropiado puede ser una fuente importante de responsabilidad" (ibidem). Esto último puede ser y ha sido discutido: ¿la responsabilidad es de quién publica o de quien formula el mensaje? Las plataformas incluyen de modo habitual "condiciones de servicio" que incluyen normas limitativas para algunos tipos de contenidos. Y esto implica que aceptan un rol de verificación del cumplimiento. Veremos la principal consecuencia en el punto 2.

Las principales legislaciones (Estados Unidos y Unión Europea) otorgaron a las plataformas un cierto nivel de inmunidad estableciendo que no debían ser consideradas como editores o creadores  del contenido enviado por los usuarios y, en consecuencia, responsables de este pero, al mismo tiempo, esperando que se hagan cargo de la retirada de los contenidos que estimasen inapropiados u ofensivos, lo que equivale a recomendar una moderación pero no hacerla exigible en derecho. En los EEUU manda la "primera enmienda" de la constitución, que estable la libertad de expresión. En la Unión Europea se promueve también la autorregulación y quedó prohibida la obligación de supervisión, exceptuando las normas que prohíben los contenidos asociados al terrorismo, abuso y explotación sexual de la infancia, racismo, xenofobia y delitos de odio y, en el caso de propiedad intelectual se requiere que las empresas concluyan acuerdos con los titulares de derechos. La Ley de Servicios Digitales de la UE obliga también a las grandes plataformas a subsanar problemas como los contenidos ilegales y la desinformación y a asegurar la privacidad de los usuarios. Algunos países, sin embargo, tienen leyes más exigentes. Y la UE pide reforzar la moderación de contenidos, especialmente para frenar el odio en redes sociales, que fue destacado en un informe basado en el análisis de más de 350.000 publicaciones y comentarios, entre enero y junio de 2022, en 4 países de la Unión (Vilas y FRA). 

Peña da cuenta, en su artículo, de un debate de varios autores sobre el tema de la regulación de las RRSS. "Hay autores enormemente críticos con las redes sociales, que las consideran tóxicas para los individuos y absolutamente irrecuperables para las sociedades democráticas." (Peña, p.293)

Luego "están quienes defienden una intervención pública en la moderación de los contenidos, con distintos grados de intensidad" (ibidem, p.294)

En un tercer grupo "un rasgo fundamental que les une a todos es su apoyo a una mezcla de medidas, unas adoptadas en el ámbito de las empresas y otras aprobadas como legislación o regulación de las mismas, como la opción preferida y más viable para mejorar ese estado de situación" (pp.296-297).

¿Pero, para qué regular las RRSS? Peña remite a Jack Balkin:

"Para Balkin, la conclusión es que hay que regular las redes sociales, porque nos interesa y preocupa la esfera pública digital, y el objetivo de tal regulación no puede ser otro que el de crear incentivos para que las redes sean instituciones responsables y dignas de confianza, capaces de promover una «sana y vibrante» esfera pública digital." (p.302)

¿Cómo hacerlo? Con medidas que tengan para ellas algún impacto económico y limitar lo que se les permite hacer con los datos de los usuarios. Pero, en último término, fuera de las (escasas) limitaciones legales o de una futura regulación, lo que manda es el beneficio económico:

"Pese a que Facebook diga que la finalidad de sus normas comunitarias es «crear un espacio donde todo el mundo pueda expresarse y dar a conocer su opinión» y Twitter proclame que su objetivo es «servir a la conversación pública», la estrategia de ambas compañías se fija por objetivos comerciales y financieros, por número de usuarios, horas pasadas en la red e ingresos generados por la publicidad: esas son las métricas que determinan para sus directivos el éxito de las redes sociales y no su contribución a la consecución del bien común a través de la participación y la deliberación." (Peña, p.290)

2. Enfrentar la masividad

Facebook tiene aproximadamente 3.000 millones de usuarios según DataReportal y más de cuarenta mil empleados encargados de moderar contenidos, así como un sistema de aprendizaje automático para detectar contenidos inapropiados. Esto, según Frances Haugen, ingeniera de datos y antigua gerente de productos en Facebook, "apenas había servido de algo" para filtrar los contenidos extremos y adictivos (Peña). 

"Los moderadores empleados por Facebook se enfrentan a la tarea imposible de mantener el sitio libre de contenido extremista, ya sea producido por los terroristas o por individuos trastornados que cometen actos de asesinato y tortura. (...)

Se dice que dará empleo a 3.000 moderadores más para completar el equipo existente de 4.000*. Eso no será suficiente." (White)

* Hay discrepancias entre diversas fuentes en torno a la cantidad de moderadores.

Wired en español señalaba en octubre que plataformas de redes sociales como X, Instagram y Facebook, habían abdicado de su responsabilidad de verificar la información, dejando crecer narrativas negacionistas que respaldan a Trump. Además, habían cortado el acceso de los investigadores a los flujos de datos que les permitían informar objetivamente sobre la magnitud de estas campañas.

"Gobiernos como los de Gran Bretaña y Alemania, ya han condenado el fracaso de las compañías de redes sociales por no tomar medidas suficientes para hacer frente a contenidos peligrosos." (White)

Referencias

 Balkin, J. (2020): How to Regulate (and Not Regulate) Social Media. Knight First Amendment Institute at Columbia University. 

Donovan, J. (2020): Las redes sociales deben ser transparentes en su moderación de contenido, MIT Technology Review, 17/11/2020. 

FRA - European Union Agency for Fundamental Rights, (2023): Online hate: we need to improve content moderation to effectively tackle hate speech, FRA Europa, 23/11/2023. 

Haythornthwaitehttps, C. (2023): Moderation, Networks, and Anti-Social Behavior Online, Social Media + Society, Volume 9, Issue 3, July 2023. 

Linterna Verde (2024): Problemas en el Fediverso: una mirada a las limitaciones de moderación de las redes sociales descentralizadas, Linterna Verde, 28/5/2024. 

Osorio, F. (2021): Moderación en las redes sociales desafía la libertad de expresión, Caplin News, 15/11/2021. 

Peña, P.J. (2021): Entre analogías y metáforas: el debate sobre la moderación de contenidos en las redes sociales, Revista de las Cortes Generales, 2021. 

Pina, I. (2024): ModeraciónContenidos ¿El lado más oscuro de las Redes Sociales?, Artículos LinkedIn, 5/03/2024. 

UNESCO (2021): Moderación de contenidos y la protección de la libertad de expresión de los usuarios de redes sociales, 4/03/2021. [Propuesta de seminario]

Vilas, C. (2023): Un informe europeo pide reforzar la moderación de contenidos para frenar el odio en redes sociales, Euronews, 29/11/2023. 

White, A. (2017): Análisis de EJN sobre la moderación de contenidos en Facebook, 23/05/2017. (Traducción del originalmente en inglés de Ethical Journalism Network, EJN)