Como contribución a la Estrategia y Plan de Acción de las Naciones Unidas para la Lucha contra el Discurso de Odio y en el marco del proyecto “#CoronavirusFacts: lucha contra la “desinfodemia” en materia de COVID-19 en entornos propensos a conflictos” surge una investigación que busca vigilar la existencia, la propagación y el impacto del discurso de odio en línea y evaluar las capacidades y prácticas para combatirlo.
A continuación, les contamos puntos relevantes de dicha investigación.
Para poder comprender de qué manera aparece y se propaga el discurso de odio en línea y posteriormente formular respuestas eficaces, es necesario definir sus dos perspectivas para fines de investigación:
“Por un lado, desde una perspectiva metodológica, tenemos las definiciones utilizadas para considerar la cuestión, los contextos históricos y sociales, las sutilezas lingüísticas, la variedad de las comunidades en línea y las formas del discurso de odio en línea (tipo de lenguaje, imágenes, etc.). Por otro lado, desde la perspectiva tecnológica, el discurso de odio es difícil de estudiar debido a la incoherente fiabilidad de los sistemas de detección, la naturaleza opaca de los algoritmos propietarios, la falta de acceso a los datos de que disponen las empresas, etc.”
Adicionalmente, lo ocurrido en el último año por la pandemia de Covid-19 ha puesto en manifiesto la importancia de un plan de acción. Lo anterior, aclara UNESCO, se debe a “la propagación del discurso de odio en todo el mundo que ha agravado la intolerancia y la discriminación hacia determinados grupos y ha desestabilizado sociedades y sistemas políticos.”
Sin embargo, las dificultades para abordar el discurso de odio y legislar al respecto empiezan con su definición, ya que no existe un acuerdo a nivel internacional sobre lo que
significa. A pesar de lo anterior, hay leyes nacionales e internacionales de todo el mundo que dan fe de las complejidades e interpretaciones diversas que se pueden aplicar al discurso de odio. Por ejemplo, la Declaración Universal de Derechos Humanos, el Pacto Internacional de Derechos Civiles y Políticos (ICCPR), el Plan de Acción de Rabat, la Convención Internacional sobre la Eliminación de Todas las Formas de Discriminación Racial (ICERD), entre otros.
Discurso de odio en línea
La diferencia entre el discurso de odio en línea del que tiene lugar fuera de él, reside en las interacciones en las que se lleva a cabo, en el uso y la difusión de palabras, acusaciones y teorías conspiratorias específicas que pueden evolucionar, alcanzar máxima popularidad y desvanecerse muy rápidamente. Adicional a esto, los mensajes de odio pueden hacerse virales en horas, incluso en minutos.
De lo anterior, UNESCO explica que “las políticas y herramientas en materia de detección, vigilancia y moderación del discurso de odio en línea varían según los contextos, los agentes y las plataformas.” Además, los métodos de detección se pueden agrupar en dos categorías: “esfuerzos más integrales basados inicialmente en filtros de palabras clave y métodos de colaboración masiva, y aquellos que dependen de moderadores humanos que revisan el contenido señalado por los usuarios como discurso de odio y deciden si lo es o no.”
Prevalencia del discurso de odio en las plataformas de redes sociales
UNESCO asegura que, gracias al uso de herramientas de detección automatizada basadas en los métodos disponibles, Twitter, Facebook , Instagram y YouTube consiguen señalar o eliminar cada vez más contenido.
-Entre enero y marzo de 2021, YouTube eliminó 85.247 vídeos que violaban su política relativa al discurso de odio. Sus dos informes anteriores muestran cifras similares.
-En ese mismo trimestre, Facebook denunció un total de 25,2 millones de elementos de contenido en relación con los cuales había tomado alguna medida.
-En el caso de Instagram fueron 6,3 millones.
-Según el último informe de transparencia de Twitter, entre julio y diciembre de 2020 la empresa eliminó 1.628.281 elementos de contenido que se consideraba que violaban su política relativa al discurso de odio.
Recomendaciones para combatir el discurso de odio en línea:
- Promover definiciones inclusivas del discurso de odio que respeten la libertad de expresión.
- Crear coaliciones de múltiples partes interesadas.
- Recopilar datos y fomentar prácticas de datos abiertos en las que ya se han recopilado datos siempre respetando la protección de los datos personales.
- Alentar a las plataformas a que ofrezcan posibilidades firmes de reparación a aquellas personas cuyo contenido ha sido eliminado
- Capacitar acerca del discurso de odio, los medios de comunicación y la información y proporcionar competencias digitales a través de programas educativos.
- Apoyar a las organizaciones que trabajan en el ámbito del discurso de odio en línea.
El objetivo final de esta investigación y de aplicar las recomendaciones es contener el discurso de odio en línea e impedir que se transforme en violencia, a la vez que se garantiza la libertad de expresión. También, hacer frente a los nuevos desafíos causados por el emergente discurso de odio viral y, en particular, abordar las consecuencias fuera de Internet para alcanzar la paz, la estabilidad y el disfrute de los derechos humanos por parte de todos.
Amplía esta información en: www.unesdoc.unesco.org/ark:/48223/pf0000379177_spa?2=null&queryId=dad2e530-2a21-4854-bce1-fc57cdb8266a