Discursos de odio ¿Cómo los frenamos?

Por Emilio Cruz López

La guerra en Ucrania ha evidenciado como las redes sociales pueden fungir como fuente de desinformación en los conflictos, incitación a la violencia e incluso atrocidades masivas. No es absoluto un fenómeno nuevo, sino que ya lo hemos visto desde Etiopía, Ruanda y Myanmar.

Cuando estas violaciones suceden en el Sur Global gran parte del mundo mira hacia otro lado, con poca o nula preocupación. Sin embargo, la guerra en Ucrania es un suceso que ha demostrado que no se puede ignorar. Occidente finalmente se ha dado cuenta cómo las redes sociales se utilizan como armas en el conflicto, y como los soldados que apoyan a uno u otro bando no solamente están en el terreno, pueden estar a miles de kilómetros. Así, vemos la necesidad de una organización internacional con determinación para marcar la diferencia.

Meta, la empresa que le da vida a Facebook, hizo un cambio controvertido en su política de incitación al odio, lo cual no levantó las suficientes miradas. Una nueva configuración está permitiendo publicaciones que normalmente violarían sus reglas, como podrían serlo «muerte a los invasores rusos», lo que evidentemente muestra varas distintas para diferentes usuarios.

Por su parte, Polonia, Lituania, Estonia y Letonia enviaron una súplica a los ejecutivos de Google, Twitter y Facebook exigiendo que censuren y eliminen las cuentas que justifican la agresión o alaban los crímenes de guerra, muchas de las cuales provienen de Rusia.

Esto puede parecer -prima facie- sorprendente. Sin embargo, dicha situación está lejos de ser la primera vez que surgen tales problemas. En 2018, una misión de investigación de las Naciones Unidas descubrió que las redes sociales, en particular Facebook, habían tenido un «papel determinante» en el genocidio de Myanmar.  También, se ha denunciado cómo mediante Facebook se estaba “fomentando la violencia” en Etiopía.

La censura, discursos de odio en línea y desinformación durante los conflictos son una gran preocupación debido a su gran potencial para exacerbar la violencia y socavar otros mecanismos democráticos, tales como erosionar la integridad electoral. La difusión de violencia en medios de comunicación no es un fenómeno reciente, tal es el caso del Genocidio de Ruanda en el que se utilizó la “Radio Télévision Libre des Mille Collines” (Radio de corte estatal) para difundir mensajes con incitación al genocidio, llevando a varios directivos y locutores de la época a condenas en el Tribunal Penal Internacional para Ruanda a partir de los años 2000’s.

La cuestión actual es que no solo se han expandido los medios y las formas de comunicar, sino que también se ha incrementado de forma exponencial el alcance de los mismos, así como la posibilidad que tienen todos los usuarios de realizar publicaciones y alcanzar un gran público.

Otra realidad es que muchos gobiernos del mundo no tienen la capacidad ni las herramientas para poder atender este tipo de asuntos, particularmente porque se cree que hay temas más “apremiantes” que solucionar las problemáticas de Derechos Humanos en línea.

Lamentablemente, la situación en Ucrania ha evidenciado una vez más el desequilibrio de poder económico entre las naciones del Sur Global y la nula importancia que le dan estas empresas de redes sociales al discurso de odio o las campañas de desinformación en estos países, a la vez que giran sus intereses hacia el Norte.

¿Una nueva organización?

Pensar en una mayor automoderación por parte de las grandes corporaciones sigue siendo una perspectiva lejana, ya que los mecanismos legales y de regulación en esta materia apenas están cimentándose. Es por eso que no es nada extraño pensar que nos encontramos en el momento más oportuno para una organización que  opere dentro de un marco de Derechos Humanos e idealmente basado en la ONU (ya que aquejaría a toda la comunidad internacional).

Sin embargo, tampoco se deberían descartar la creación de nuevos paneles en las regiones. Por ejemplo, es urgente que la Unión Africana atienda esta problemática. Con asesoramiento de la misión previa de Naciones Unidas podría ser viable la creación de un orden legal en esta materia en la región. Sería una de las formas de reunir a los actores que juegan un papel crucial para abordar de manera efectiva el combate al discurso de odio y la desinformación en línea en tiempos de guerra y conflicto.

Una nueva organización podría establecer pautas para las intervenciones de información en conflictos violentos y recomendar qué acciones podrían tomar ciertos actores. Actuaría como un pilar de apoyo para las empresas de redes sociales, con el fin de cumplir con estándares específicos tanto en tiempos de conflicto como en épocas de paz.

De la misma forma, se debe pensar que los actores que participen en este organismo no sean únicamente los gobiernos del mundo. Es importante sobre todo que tengan un papel preponderante las empresas que, al fin y al cabo, son las prestadoras del servicio de las redes sociales, personas expertas en la materia, así como también enviados especiales en las zonas de conflicto.

Es crucial que este nuevo organismo tenga la capacidad legal de emprender investigaciones independientes, similar al trabajo que desempeña el Consejo de Derechos Humanos de la ONU. Sería poco plausible pensar en un organismo que interprete el derecho internacional o que resuelva disputas sobre esta materia. Este sería quizás uno de los esfuerzos de cooperación multilateral que más trabajo le habría costado históricamente a la comunidad.

La responsabilidad de solucionar estos problemas no se puede dejarse exclusivamente en mano de las empresas, que ya han demostrado muy poco querer detener estos discursos. Tampoco podemos dejarlo en manos de los gobiernos, quienes podrían utilizar esto como pretexto para coartar aún más las libertades personales. Se  requiere una respuesta conjunta y mancomunada, basada en principios como la libertad de expresión, pero velando también por los Derechos Humanos en un mundo cada vez más digital. 

Emilio Cruz López (México): Estudiante Licenciatura en Relaciones Internacionales en Universidad Iberoamericana.