Sabemos que existen ejércitos cibernéticos conformados por trolls y spam cuya modalidad de ataque son los comentarios abusivos y provocadores a los usuarios de las redes sociales. Si las empresas se preocupan por moderar los comentarios negativos hacia sus marcas, las redes viven una situación similar, pero a gran escala ¿Qué están haciendo para controlar esta situación?
El 29 de junio pasado, Instagram, tomó una medida para proteger a sus usuarios, se ha comprometido a detectar y filtrar intervenciones dañinas. Bajo el lema: “Manteniendo a Instagram como un espacio de autoexpresión seguro”, utilizará una herramienta que actuará como filtro automático que evitará los comentarios nocivos. En principio estará disponible para la versión en inglés, con la promesa de hacerlo extensivo a otros idiomas.
¿Y por Facebook cómo andamos?
Con 2 mil millones de usuarios – un cuarto de la población mundial - ¿Cómo filtrar contenidos ofensivos hacia otras personas o potencialmente peligrosos para la comunidad? Según el artículo publicado en FastCompany, se habría filtrado información sobre un manual con reglas muy estrictas que tiene esta red para proteger a poblaciones que se encuentran en la categoría “protegida”. Son personas que se agrupan por "raza, sexo, identidad de género, afiliación religiosa, origen nacional, origen étnico, orientación sexual y discapacidad / enfermedad grave". El problema es que cuando una de estas categorías se agrupa con una categoría no protegida, pierden su estado de población protegida.
El censor secreto de Facebook: Hombres blancos sí, niños negros no
El artículo citado explica algo curioso, lo que Facebook considera como “categoría protegida”: los hombres blancos son considerados un “grupo” porque ambos rasgos están protegidos, mientras que las mujeres y los niños negros, como los musulmanes radicalizados, son subconjuntos, porque una de sus características no está protegida. Pero Facebook dice que su objetivo es diferente: aplicar estándares consistentes en todo el mundo.
"Las políticas no siempre conducen a resultados perfectos", dijo Monika Bickert, directora de gestión de políticas globales de Facebook a Propublica."
"Esa es la realidad de tener políticas que se aplican a una comunidad global donde la gente de todo el mundo va a tener ideas muy diferentes sobre lo que está bien compartir".
En parte compartimos la opinión de Bickert, cuya declaración alude a la diversidad. Pero sin desconocer que lo que se dice en las redes es el reflejo del colectivo social, y eso tenemos que traspolarlo a nivel mundial. No obstante, más allá de las diferencias culturales, existe un código básico en cualquier conversación: el respeto por el otro, que como sabemos no siempre se cumple.
¿Hasta dónde están preparadas las redes para gestionar y moderar las conversaciones? No se trata de filtros, sino de educación, tolerancia. Aquello que nos falta. Las redes sociales son un espejo cuyo reflejo nos devuelve nuestras zonas más oscuras.
