Una investigación de la organización sin fines de lucro Eko ha revelado que Meta y X aprobaron anuncios con discurso de odio violento contra musulmanes y judíos en el contexto de las elecciones federales de Alemania. Según el informe, ambas plataformas permitieron la publicación de anuncios que incitaban a la violencia y promovían mensajes racistas y antisemitas.
Anuncios aprobados antes de las elecciones
Los investigadores de Eko pusieron a prueba los sistemas de revisión de anuncios de Meta y X enviando anuncios con contenido altamente ofensivo para ver si eran aprobados o rechazados. El resultado fue alarmante: X aprobó los 10 anuncios con discurso de odio presentados, mientras que Meta aprobó cinco y rechazó otros cinco por considerarlos potencialmente sensibles para el electorado.
Entre los anuncios aprobados por Meta se encontraban mensajes que comparaban a los refugiados musulmanes con «virus», «ratas» o «parásitos», además de llamados a la violencia contra ellos. También se aprobaron anuncios que promovían incendios en sinagogas para «detener la agenda globalista judía».
X, por su parte, no solo aprobó todos los anuncios de odio presentados, sino que también permitió la programación de anuncios que atacaban directamente a partidos políticos, promoviendo información falsa y llamando a la violencia contra inmigrantes y minorías.
Fallas en la moderación de contenido
La investigación pone en evidencia fallos graves en la moderación de anuncios de ambas plataformas. En el caso de X, los investigadores destacan que parece no existir un proceso efectivo de revisión, ya que todos los anuncios con contenido violento fueron aprobados rápidamente.
Por otro lado, Meta, a pesar de rechazar algunos anuncios, sigue mostrando deficiencias en su sistema de moderación impulsado por IA. Además, la investigación de Eko reveló que Meta aprobó anuncios con imágenes generadas por inteligencia artificial sin la etiqueta obligatoria que indica su origen, violando sus propias políticas de transparencia.
Impacto del Reglamento de Servicios Digitales de la UE
El estudio también cuestiona la efectividad del Reglamento de Servicios Digitales (DSA) de la Unión Europea, que debería garantizar una moderación más estricta en plataformas digitales. A pesar de que la normativa está en vigor, Meta y X continúan permitiendo la difusión de contenido ilegal y discurso de odio a gran escala.
Las autoridades europeas ya han abierto investigaciones contra ambas compañías por posibles violaciones al DSA, especialmente en lo que respecta a la seguridad electoral y la moderación de anuncios políticos. Las sanciones por incumplimiento podrían alcanzar hasta el 6% de los ingresos globales de las empresas e, incluso, la suspensión temporal de sus servicios en la región.
Presión política y falta de acción
Eko también advierte que la Comisión Europea podría enfrentar presiones del gobierno de EE.UU., en particular de la administración de Trump, para suavizar la regulación sobre las grandes tecnológicas. Según la organización, existe el riesgo de que la UE no aplique con firmeza las sanciones previstas en el DSA, lo que podría dejar las plataformas sin cambios significativos en su moderación de contenido.
A pocas horas de las elecciones en Alemania, este informe refuerza las preocupaciones sobre el papel de las redes sociales en la difusión de desinformación y discurso de odio, así como su impacto en los procesos democráticos europeos.
