Redes sociales y los discursos de odio

• 

Junto a los verdaderos creyentes, muchos políticos emplean cuentas falsas y usuarios pagos para difundir mensajes políticos en las redes sociales, amplificado por algoritmos diseñados para valorar métricas de participación.

En 2018, los investigadores de la ONU señalaron el papel de Facebook para permitir el genocidio de Myanmar contra los rohingyas y dijeron que esa plataforma se convirtió en una “bestia”.

Los directivos de Facebook pretextaron que carecían de suficientes moderadores que conocieran el idioma y el contexto, pero ahora la violencia está ocurriendo en su propio patio trasero: Estados Unidos.

Las plataformas a menudo hacen la vista gorda ante los poderosos actores que pueden dañar su negocio e

Intereses como por ejemplo YouTube que mantuvo la propaganda de odio hasta que los anunciantes retrocedieron. 

El año pasado, al principal ejecutivo de políticas de Facebook en India lo acusaron de manifestarse contra la prohibición de la cuenta de un político del gobernante Partido Bharatiya Janata, que incitaba a la violencia.

La preocupación más importante es que si las plataformas realmente ejercen sesgo, influyen en la capacidad de cambiar el curso de la política local y global. 

Por tanto, incumbe a los gobiernos garantizar que las plataformas con impacto electoral asuman responsabilidad con acciones o inacciones.

Sin embargo, aunque los activistas quieren que se elimine el discurso de odio, no aprueban la censura. 

La Ley de Decencia en las Comunicaciones en Estados Unidos crean un interesante desafío para los legisladores.

Las disposiciones garantizan que las plataformas no sean responsables de lo que no pueden controlar con certeza, especialmente porque nunca sobrevivirían a esa responsabilidad, destaca el sitio Savetheinternet. 

La situación es complicada aún más por el hecho de que las disposiciones se aplican igualmente a las plataformas de contenido como YouTube y proveedores de servicios de Internet (ISP) como AT&T.

Así, Facebook puede no ser responsable de una publicación de odio de un usuario, pero puede optar por aceptarla o no, porque podría violar las pautas de la comunidad. 

Está claro que no podemos esperar que las plataformas actúen siempre en el mejor interés de la sociedad. 

Tampoco puede arriesgarse a dar demasiado poder a los gobiernos para hacer cumplir las reglas.

Por lo tanto, los reguladores y activistas deben encontrar un camino intermedio y cerrar la brecha entre la responsabilidad y la rendición de cuentas de aquellas plataformas que tienen un impacto directo en la integridad electoral.

Es fundamental que haya transparencia en la decisión de actuar, de cómo funcionan los algoritmos y de cómo sus moderadores tratan las quejas y, lo que es más importante, cuál es la cadena de mando definida cuando se trata de decisiones de contenido.

Esas actividades no son necesariamente ilegales y no pueden ser un problema para ninguna comunidad, aunque su impacto es inconfundible: pueden llevar a que las turbas la emprendan contra la comunidad musulmana en un pequeño pueblo de la India o contra los Rohingyas en Myanmar o hacer que un grupo asalte el Capitolio en Washington. 

Y también conducir a que un hombre armado entre en una mezquita en Christchurch, Nueva Zelanda, y acribille a balazos a 51 personas.

De tal manera que se necesita pensar en cómo regular al mensajero, no solo al medio, y cómo hacer frente a campañas de desinformación. 

Todas esas sugerencias son imperfectas y no existe una solución única que resuelva tal desafío. Necesitan ser discutidos, debatidos y desarrollados, pero no hay duda de que las democracias han ido más allá del punto sin retorno. 

Haciendo nada ya no es una opción. Nikhil Pahwa es el fundador de MeiaNama y dirigió la campaña SaveTheInternet.in para la neutralidad de la red en India, lo que provocó el cierre del programa Internet.org de Facebook allí.