Una nueva tarjeta de calificaciones publicada hoy por la Liga Antidifamación (ADL) encontró que cinco de las principales plataformas de medios sociales — Facebook, Instagram, TikTok, YouTube y X— rutinariamente no toman medidas sobre el odio antisemita reportado a través de los canales regulares disponibles para los usuarios.
El Centro de Tecnología y Sociedad (CTS) de la ADL evaluó tanto las políticas como su aplicación en relación al antisemitismo y emitió calificaciones para cada una de las cinco plataformas basándose en un conjunto fijo de criterios.
X (antes Twitter) obtuvo la puntuación más baja con una “F”, ya que la mayoría de las acciones de la plataforma consistieron en limitar la visibilidad de los contenidos problemáticos. Aunque la ADL reconoció que X había tomado medidas, a diferencia de otras plataformas, X no eliminó el contenido que incitaba al odio. Además, Facebook y TikTok recibieron una “C” cada una; YouTube e Instagram obtuvieron una “C- “.
“Las plataformas de medios sociales todavía se están quedando muy cortas cuando se trata de moderar el contenido antisemita y antisraelí”, dijo Jonathan A. Greenblatt, CEO y Director Nacional de la ADL. “Tras el ataque sin precedentes de Hamás contra Israel el 7 de octubre, los usuarios judíos están encontrando en las redes sociales más insultos y acoso antisemita que nunca. No es difícil detectar este odio, pero se necesita liderazgo para hacer cumplir consistentemente las reglas”.
Los investigadores de la ADL analizaron en qué medida las cinco plataformas aplicaban sus políticas contra el contenido de odio en dos áreas específicas: las teorías de conspiración antisemita y el término “sionista” utilizado como insulto. Concluyeron que, aunque las cinco plataformas tienen políticas adecuadas para responder a este tipo de retórica de odio (excepto X, que no tiene una política que prohíba específicamente la desinformación), se quedan cortas a la hora de aplicarlas a los usuarios promedio.
La tarjeta de calificaciones también reveló que la mayoría de las plataformas solo tomaron medidas cuando la ADL escaló las denuncias a través de canales directos no disponibles para los usuarios normales. E incluso entonces, las plataformas solamente actuaron respecto a algunos de los contenidos de odio.
En el año transcurrido desde el 7 de octubre, la ADL ha documentado un dramático aumento del odio antisemita en línea. El informe anual de la ADL sobre el odio y el acoso en línea encontró que el 47% de los judíos vieron contenido antisemita o teorías de conspiración relacionadas con la guerra entre Israel y Hamás, en comparación con el 29% de los estadounidenses en general. Sin embargo, en muchos casos el lenguaje de odio ha cambiado y nuevas teorías de conspiración antisemitas han tomado forma junto con el resurgimiento de las antiguas.
“Hemos publicado varios estudios que evalúan cómo responden las plataformas al antisemitismo cuando es denunciado por los usuarios promedio. Preocupantemente, esta tarjeta de calificaciones tuvo la peor tasa de respuesta a las denuncias de usuarios que hayamos visto”, dijo Daniel Kelley, Director Interino del Centro de Tecnología y Sociedad de la ADL. “Aunque nos sentimos alentados por las medidas tomadas por las plataformas cuando informamos a través de nuestros canales de ‘Denunciantes de confianza’, instamos a las compañías tecnológicas a realizar auditorías exhaustivas sobre la forma en que sus plataformas moderan el contenido antisemita para comprender por qué existe esta profundamente preocupante brecha entre las políticas de la plataforma y las denuncias de los usuarios”.
Metodología
Para poner a prueba el cumplimiento de las políticas sobre antisemitismo de cada plataforma, la ADL comenzó por denunciar contenidos individuales utilizando las herramientas disponibles para un usuario normal. Al cabo de una semana, los investigadores comprobaron si se había tomado alguna medida. En el caso de los contenidos en los que no se tomó ninguna medida o se tomó una medida parcial (como limitar la visibilidad del contenido), la ADL reportó el contenido a puntos de contacto directos en las empresas, la mayoría de las veces a través de asociaciones de “denunciantes de confianza”.
La ADL también evaluó las políticas de cada plataforma sobre teorías de conspiración e insultos antisemitas. Al comparar las políticas con el contenido real a menudo surgen matices, por lo que es necesario analizar caso por caso una gran parte del contenido potencialmente violento. Los expertos de la ADL en políticas de las plataformas evaluaron cada uno de los contenidos remitidos a los denunciantes de confianza de las plataformas.
Tras la revisión de los contenidos restantes por parte de los denunciantes de confianza, la ADL evaluó cada plataforma en función de su índice de respuesta contra los contenidos denunciados como usuario habitual y su índice acumulativo de medidas tras los reportes de los denunciantes de confianza.
Recomendaciones para las plataformas
- Mejorar el sistema de denuncias de los usuarios. Aunque reconocemos los desafíos de moderar a escala, estas plataformas deberían ser capaces de procesar denuncias, revisar contenidos y actuar sobre los contenidos de odio en menos de una semana.
- Corregir la brecha entre políticas y aplicación. Las empresas deberían empezar por llevar a cabo una auditoría interna para evaluar 1) si el personal está preparado para reconocer y tomar medidas ante contenidos antisemitas; 2) si las políticas actuales abordan la naturaleza multidimensional del antisemitismo; 3) su capacidad y eficacia para aplicar las políticas; y 4) los mecanismos de apoyo a los usuarios que encuentran o son objeto de odio y acoso antisemitas.
- Proporcionar a los investigadores independientes acceso a los datos, incluido el acceso a los archivos de contenido moderado.
- Revisar en su contexto los contenidos denunciados. Múltiples denuncias u otras señales sobre un mismo contenido pueden proporcionar contexto para un contenido que, de otro modo, no parece violatorio.
- Seguir las tendencias emergentes y los cambios conflictivos a medida que cambian con el tiempo. En el caso del odio antisemita, estos cambios se han acelerado desde el 7 de octubre.