Actualidad
Lo que hay detrás del discurso de odio en las redes sociales
Aunque las plataformas virtuales de comunicación posibilitan la expansión de mensajes violentos o discriminatorios, el problema se origina en las sociedades.
El advenimiento de internet y el surgimiento de canales masivos que permiten la comunicación de usuarios separados físicamente representó un hito en la historia del lenguaje y transformó significativamente las relaciones entre los seres humanos.
La llamada 'Era de la información' prometía más democracia, al menos en lo que respecta a la pluralidad de voces que podían hacerse un hueco en la opinión pública, al tiempo que el concepto de comunidad se redefinía a partir de las reglas de lo virtual.
Así, en cierta medida, las redes sociales se hicieron muy populares no solo porque permiten conectar con familiares y amigos, sino porque posibilitan la unión de aquello que, aunque semejante, está separado.
En este marco, muchas plataformas se autopromocionan como una reedición contemporánea del ágora griega, una suerte de plaza pública donde cualquier persona alfabeta, con acceso a Internet y a un teléfono móvil o computadora, puede expresar libremente su opinión y conseguir la aprobación de la asamblea o entrar en debate con sus miembros.
Sin embargo, ese paraíso de intercambios horizontales ha mostrado rápidamente sus límites. A la dictadura de los algoritmos –que privilegian las publicaciones polémicas–, y a la reproducción de las dinámicas de poder presentes en el seno de las sociedades, se sumaron crecientes expresiones de la polarización de opiniones donde es habitual el lenguaje violento.
En estos entornos, la respuesta hacia la diferencia no pocas veces se expresa más allá del contraste de ideas y entra en los terrenos de los discursos directamente de odio o negadores de la alteridad, lo que los hace un terreno propicio para el amalgamiento y consolidación de diversas formas de extremismo más allá de la virtualidad.
El discurso de odio
No hay una forma única de definir los discursos de odio y, a menudo, los límites entre ellos y lo que se considera libertad de expresión son difusos. Micaela Cuesta, coordinadora del Laboratorio de Estudios sobre Democracia y Autoritarismo de Universidad de San Martín, puntualiza que las fronteras dependen del campo de saber desde el que se le aborda.
En su opinión, pueden considerarse como tal "aquellos enunciados proferidos en la esfera pública […] que busquen incitar, promover o legitimar formas de la discriminación o la violencia hacia un otro o hacia un particular en función de su pertenencia a un colectivo o una identidad social, religiosa, étnico-racial, cultural, política o cualquier otra".
A la dictadura de los algoritmos y a la reproducción de las dinámicas de poder presentes en el seno de las sociedades, se sumaron crecientes expresiones de la polarización de opiniones donde es habitual el lenguaje violento.
Esta definición hace hincapié en los aspectos sociocomunicacionales del fenómeno y por ello resulta particularmente útil para analizar su profusión en el campo de las redes sociales y sus efectos en la realidad.
De su lado, la Unesco advierte que "la incitación al odio comienza con las palabras". "Hoy día, los discursos que incitan al odio siguen prosperando de muchas formas, difundidos por personas influyentes, demagogos, extremistas violentos de todo tipo y ciudadanos de a pie", apunta el organismo.
En el presente, hay un conjunto de herramientas que permiten detectar su presencia e incidencia en línea basadas en el análisis del lenguaje, el aprendizaje automático y otras metodologías con soporte en la informática, pero eso no necesariamente detiene su proliferación ni ayuda a sus víctimas directas o potenciales.
Los discursos de odio, en tanto manifestación cultural, se asientan en constructos, prejuicios y narrativas con asiento histórico en las sociedades. De ahí que lejos de considerarse como expresiones de individuos odiadores, inconformes o inadaptados, deba tratárseles como el indicio de un malestar social que no ha encontrado otra vía para vehiculizarse.
El infierno de lo igual
Si atendemos a la historia reciente, es fácil colegir que los discursos de odio no son inéditos y tampoco lo son el hecho de que se intente propalarlos por todas las vías posibles. En el siglo XX, el nazismo y el anticomunismo, con sus importantes diferencias, tuvieron en los medios de comunicación y en la industria cultural su brazo ejecutor más importante y con sus piezas se ganaron el apoyo de millones de personas.
Empero, hay diferencias con las estrategias propagandísticas de otrora. En el presente, la noción de libertad se constituye como un articulador privilegiado para la comunicación en las plataformas virtuales, así que el discurso de odio debería entenderse como un producto epocal.
En su libro 'La sociedad de la transparencia', el filósofo surcoreano Byung-Chul Han da al traste con cualquier noción de libertad asociada al Internet y a las redes sociales, al asegurar que son espacios donde reina "el infierno de lo igual".
"La comunicación alcanza su máxima velocidad allí donde lo igual responde a lo igual, cuando tiene lugar una reacción en cadena de lo igual. La negatividad de lo otro y de lo extraño, o la resistencia de lo otro, perturba y retarda la lisa comunicación de lo igual. La transparencia estabiliza y acelera el sistema por el hecho de que elimina lo otro o lo extraño", detalla.
En ese marco, toda disidencia a "lo igual" se asume como una perturbación a la que hay que poner freno; el lenguaje es, antes que nada, un automatismo mecanizado y, para prevalecer, los espacios de participación y comunicación se transforman en esferas autocontenidas donde ya todo se ha dicho.
De este modo, asuntos como los hechos atestiguados o evidenciados a partir de un soporte creíble, el discurso de la ciencia o las declaraciones de un personaje, se transforman en permanente fuente de polémicas e interpretaciones de una verdad única que estaría siendo desdibujada por otro grupo, que puede pasar rápidamente de antagonista a enemigo.
Estas acciones persiguen no solo la defenestración de quienes han sido marcados como parte del "otro bando"; su fin ulterior es todavía más inquietante: la disminución simbólica o la eliminación de sus blancos.
Es lo que sucede, por ejemplo, contra las víctimas civiles de los bombardeos israelíes en la Franja de Gaza, los migrantes, los musulmanes, las mujeres, la población sexodiversa y otros grupos que a menudo son objeto de ataques inmisericordes dentro de las redes y fuera de ellas.
La polémica como fuente
Si bien como apunta Han, la "transparencia" de la virtualidad se asienta en una suerte de dictadura de "lo igual", otro aspecto que diferencia este tiempo histórico es el alcance y la capacidad de propagación que tienen los comentarios y publicaciones que apuestan a la estigmatización de grupos o individuos.
"Hoy estamos ante una particularidad en el sistema de odio. Hoy, las tecnologías permiten fragmentar las audiencias, crear audiencias en torno a valores de odio muy específicos, como pueden ser la xenofobia […], el racismo […], el desprecio a los afrodescendientes o a los pueblos originarios, el nacionalismo decimonónico", destacaba en 2023 Flavio Rapisardi, para entonces director de Planeamiento Estratégico de la Defensoría del Público de Argentina.
A lo dicho por Rapisardi conviene añadir otro factor: la preeminencia que le otorgan los algoritmos a los contenidos potencialmente polémicos porque ello es garantía de mayor cantidad de visualizaciones e interacciones.
Cuesta considera que los entornos virtuales "favorecen una circulación muy extensa de estos discursos a través de su viralización. En las redes sociales, los enunciados o discursos con contenido intenso en términos afectivos, generan mayor cantidad de interacciones y, por lo tanto, mayor atención por parte del usuario de esa red, redundando en beneficios económicos".
Esta costura deja ver el doble estándar de las grandes tecnológicas, que por un lado proclaman que intentan hacer de la red un espacio seguro para todos y, por otro, permiten la diseminación de piezas en las que se degrada e incluso se demanda la desaparición física de individuos o grupos humanos.
La promoción del odio
Por ejemplo, en la política de publicidad de META* sobre prácticas discriminatorias se afirma que está prohibido "que los anunciantes publiquen anuncios que discriminen a personas o grupos de personas en función de sus atributos personales, como raza, etnia, color, nacionalidad, religión, edad, sexo, orientación sexual, identidad de género, situación familiar, discapacidad o condición médica o genética".
No obstante, ese mismo conglomerado de redes sociales autorizó la publicación de contenido de odio hacia soldados de Rusia tras el inicio de la operación militar especial en Ucrania. Desde Moscú respondieron a esta decisión calificando de "terrorista" a la organización y prohibiendo sus plataformas en territorio ruso.
Ni Mark Zuckerberg ni ningún otro directivo de la empresa se disculpó por lo que, a todas luces, abrió la puerta para la expansión de discursos rusofóbicos, aun a sabiendas de que no solo son palabras destinadas a desaparecer, y como contramedida limitaron la difusión del discurso antiruso a las fronteras de Ucrania.
De manera semejante, Facebook* habilitó la publicación de anuncios pagados con llamamientos a la violencia contra la minoría rohinyá en Myanmar. Las autoridades del país asiático han sido acusadas de forzar el desplazamiento de millones de personas hacia la vecina Bangladés, tras emprender en 2017 una política de persecución que ha sido calificada por las Naciones Unidas como "limpieza étnica".
Los ejemplos muestran que se trata de malestares sociales que encontraron en las redes virtuales un medio de expresión, antes que su condición de posibilidad. Sin minimizar su efecto ni la responsabilidad de las compañías tecnológicas al alentar o consentir la difusión de contenido de odio, el problema está en otro lado.
Para la Unesco, el fin de estas prácticas cuestionables comienza con educar a las personas y enseñarlas a pensar de forma crítica sobre lo que ven, escuchan y divulgan, pues solo así podrá plantarse cara a quienes promueven el odio, en tanto se trata de una conducta aprendida y, por tanto, modificable.
*Calificada en Rusia como organización extremista, cuyas redes sociales están prohibidas en su territorio.
comentarios