Ciberacoso: la pesadilla de vivir en este siglo
Ciberacoso creciente: periodistas y usuarios enfrentan ataques, y las grandes redes continúan priorizando intereses económicos sobre seguridad.
-
Ciberacoso: la pesadilla de vivir en este siglo
El ciberacoso es un fenómeno real y cada vez más frecuente. Según un estudio de la Organización para la Cooperación y el Desarrollo Económico, realizado en 22 países, casi la mitad de los participantes sufrió algún tipo de odio o acoso en línea.
Sus efectos pueden dañar la salud mental, provocar autocensura e incluso poner vidas en riesgo. Entre profesionales que interactúan constantemente con el público —como periodistas, académicos, políticos o creadores— la exposición resulta aún mayor.
Pese a ello, las empresas tecnológicas, incluidas las redes sociales, invierten poco en mecanismos para mitigar daños asociados con la violencia digital.
Muchas dependen en exceso de respuestas reactivas, que obligan a los usuarios a enfrentar abusos repetidos antes de obtener ayuda, en lugar de generar herramientas capaces de reducir la exposición desde el inicio.
Odio en las redes
El ciberacoso hace que el discurso público, cada vez más concentrado en espacios digitales, sea menos equitativo.
Diversos actores —desde trolls aislados hasta ciberejércitos estatales— emplean amenazas violentas, insultos misóginos o racistas, acoso sexual, doxing (exposición de datos) y otras tácticas destinadas a intimidar, desacreditar y silenciar.
Las mujeres son especialmente vulnerables. Según datos de la Organización de Naciones Unidas, se estima que el 85 por ciento de las usuarias que navegan en internet presenciaron algún tipo de violencia digital de género.
El 90 por ciento de los deepfakes pornográficos no consentidos las tiene como protagonistas y el 73 por ciento de las periodistas sufrieron ataque en línea debido a su labor.
La ONU clasificó la violencia digital contra mujeres en un amplio conjunto de prácticas que incluyen la difusión o uso indebido de imágenes íntimas, el intercambio no consentido de contenido, el troleo, las amenazas, la manipulación audiovisual mediante Inteligencia Artificial, los discursos de odio y la desinformación en plataformas, la exposición de datos personales, la vigilancia, la captación y explotación sexual en línea y la suplantación de identidad.
LEA TAMBIÉN: Día Internacional de la Mujer: Un siglo de lucha por la equidad
Las empresas tecnológicas retroceden
Plataformas como Facebook, Instagram, TikTok, X y YouTube —donde se genera gran parte del acoso— no brindan suficiente protección.
En un análisis de 2021 del Pew Research Center, más de la mitad de los ciudadanos estadounidenses consideró grave el problema, pero solo el 18 por ciento evaluó positivamente la respuesta de las redes sociales.
Los gigantes tecnológicos podrían mitigar el fenómeno mediante políticas más estrictas contra el acoso y la incitación al odio, una moderación más sólida —humana y automatizada—, procesos de denuncia eficaces y herramientas que faciliten bloquear o silenciar agresores.
También podrían introducir mecanismos de responsabilidad más efectivos, como sanciones y avisos que lleven a reflexionar antes de publicar.
Los incentivos de la industria para abordar eficazmente el abuso en línea son dispares. Por un lado, las iniciativas gubernamentales para regular las plataformas de redes sociales están en auge a nivel mundial.
Por ejemplo, la Ley de Servicios Digitales de la Unión Europea, aprobada en 2022, obliga a redes sociales y motores de búsqueda a identificar, analizar y evaluar los riesgos sistémicos de sus servicios.
En contraste, Estados Unidos carece de un marco federal específico que regule la violencia digital y el ciberacoso.
México impulsó en América Latina la Ley Olimpia para sancionar la violencia digital, y varios países —como Brasil, Argentina, Colombia, Chile y Perú— incluyen prohibiciones al discurso de odio en sus legislaciones.
Durante la última década, las redes intentaron algunas reformas, casi siempre tras la presión de usuarios y las organizaciones civiles.
X (antes Twitter), por ejemplo, incorporó en 2013 una herramienta para denunciar abusos en la aplicación después de fuertes protestas.
Sin embargo, en los últimos años la industria dio marcha atrás. En 2023, con los despidos masivos en el sector, muchas empresas redujeron o desmantelaron sus equipos de confianza y seguridad, responsables de combatir el acoso.
Algunas firmas incluso revirtieron funciones esenciales: X eliminó su política de deadnaming y debilitó el botón de bloqueo; Meta flexibilizó reglas sobre incitación al odio dirigidas a mujeres y redujo la moderación automatizada.
-
Ciberacoso: la pesadilla de vivir en este siglo -
Ciberacoso: la pesadilla de vivir en este siglo -
Ciberacoso: la pesadilla de vivir en este siglo -
Ciberacoso: la pesadilla de vivir en este siglo -
Ciberacoso: la pesadilla de vivir en este siglo -
Ciberacoso: la pesadilla de vivir en este siglo
Mecanismos reactivos para abordar el ciberacoso
Hoy predominan las herramientas reactivas —denuncias, bloqueos, silencios—, que exigen soportar agresiones reiteradas para mitigarlas.
Un estudio de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura mostró que el abuso digital tiene fuertes efectos psicológicos: 26 por ciento de los encuestados reportó depresión, ansiedad, estrés postraumático y otros problemas.
En casos extremos, las víctimas contemplaron el suicidio, y algunos profesionales decidieron abandonar su trabajo.
¿Tratar el abuso en línea más como spam?
Una propuesta innovadora, planteada por la periodista Sarah Jeong en su libro The Internet of Garbage, consiste en manejar el acoso como spam.
Así como los filtros de correo relegan mensajes indeseados a carpetas separadas, las plataformas podrían permitir a los usuarios decidir qué desean ver.
Esta aproximación daría mayor control a cada persona: algunos buscarían evitar todo contenido potencialmente ofensivo, mientras otros preferirían filtrar ataques menores para identificar amenazas reales.
¿Por qué no se adopta esta estrategia?
La tecnología para aplicar filtros similares a los antispam existe y, aunque la detección del acaso resulta más compleja, también es viable.
Sin embargo, requiere invertir tiempo, dinero y personal especializado, un esfuerzo que la mayoría de las grandes plataformas no considera prioritario.
De hecho, diversas medidas de protección surgieron solo después de campañas prolongadas de activismo.
Los ejemplos son muchos: Facebook tardó más de una década en incorporar la posibilidad de poner en cuarentena mensajes directos provenientes de cuentas abusivas. Instagram no permitió silenciar hasta 2018.
Durante años, ambos servicios exigieron procesos lentos o manuales para denunciar agresiones.
La falta de incentivos también influye. Como señaló en Forbes el sociólogo Kent Bausman, de la Universidad Maryville en St. Louis, estas plataformas, con sus prioridades comerciales, favorecieron un entorno donde el trolling (publicación de mensajes ofensivos) se vuelve más extendido y virulento.
Sesgo implícito
Los modelos de inteligencia artificial utilizados para la detección automática de abusos presentan sesgos derivados de los datos de entrenamiento.
Para crear sistemas capaces de analizar contenido nuevo se requieren grandes volúmenes de información previamente anotada por personas o máquinas.
Muchos de los modelos disponibles se preparan con comentarios extraídos de plataformas como Twitter y Reddit.
Investigadores de tres universidades demostraron recientemente que las creencias e identidades de quienes anotan estos datos pueden introducir sesgos en las herramientas resultantes y distorsionar la detección de discursos de odio.
-
Ciberacoso: la pesadilla de vivir en este siglo -
Ciberacoso: la pesadilla de vivir en este siglo -
Ciberacoso: la pesadilla de vivir en este siglo -
Ciberacoso: la pesadilla de vivir en este siglo -
Ciberacoso: la pesadilla de vivir en este siglo -
Ciberacoso: la pesadilla de vivir en este siglo
Múltiples idiomas y medios
Los sistemas de IA se centran mayoritariamente en el análisis textual, pero su rendimiento varía según el idioma. Funcionan mejor con inglés estándar estadounidense que con otras lenguas.
Estudios recientes identificaron fallas críticas en productos diseñados para idiomas con escasos recursos, como somalí, amárico o uigur, en los que el entrenamiento resulta limitado.
Además, el acoso adopta formas visuales —imágenes y videos— cuya interpretación automatizada es aún más compleja.
Mientras tanto, el lenguaje evoluciona rápido y actualizar los modelos requiere tiempo y recursos significativos, por eso, para cuando un modelo esté listo para implementarse, es posible que ya esté obsoleto.
Ver esta publicación en Instagram
Hacia soluciones más efectivas
Para reducir la exposición al ciberacoso, las plataformas podrían combinar mecanismos proactivos y reactivos.
Esto incluye filtrado preventivo de contenido abusivo, herramientas de moderación híbridas (humanas y automatizadas), y funciones que permitan a los usuarios controlar qué tipo de mensajes desean recibir.
Un estudio de 2023 descubrió además que el 52 por ciento de los participantes preferían la moderación del contenido personal sobre su contenido personal en lugar de depender únicamente de las medidas aplicadas a toda la plataforma.
Otra investigación del mismo año indicó que los usuarios buscan mayor transparencia y comprensión sobre cómo funcionan los sistemas de moderación, con un fuerte interés en controlar su experiencia individual.
La buena noticia es que los mecanismos impulsados por los propios internautas pueden reforzar de manera significativa los sistemas de moderación gestionados por los sitios.
Sin embargo, otros factores como la regulación, la gobernanza del entorno digital y la evolución de las normas sociales también juegan un papel crucial.
Aunque el análisis de estos aspectos excede el alcance de este reporte, resulta evidente que las soluciones técnicas por sí solas no son suficientes para mitigar los daños en línea.
Por ello, resulta fundamental que las empresas tecnológicas, especialmente las redes sociales, asuman el reto de desarrollar protecciones proactivas más sólidas, accesibles y sensibles al trauma, de modo que podamos construir espacios de debate en línea verdaderamente seguros y equitativos.
Amaya Rubio Ortega
Al Mayadeen Español