Facebook

Allí, la red social reveló por primera vez datos numéricos sobre contenido removido por violar sus normas comunitarias en seis áreas: violencia gráfica, desnudez de adultos y pornografía, propaganda extremista, discurso de odio, spam y cuentas falsas. 

La forma en que la empresa fundada por

Mark Zuckerberg

"Puede ser que un contenido cuente con muchas visualizaciones pero tenga un nivel de severidad bajo, mientras que hay otros que son vistos pocas veces pero tienen una severidad alta”, ejemplificó sobre la dinámica de trabajo Alex Schultz, vicepresidente de Analítica de Datos de

Facebook

El directivo brindó estas declaraciones desde la sede de la red social ubicada en California, donde también estaba Guy Rosen, vicepresidente de Producto de

Facebook

Para desarrollar la tarea de revisión de contenidos, Schultz indicó que otra técnica que utilizan es priorizarlos con la variable del “aquí y ahora‘: “Por ejemplo, cuántas veces fue vista una determinada pieza en la última hora”.

Entre las cifras más significantes está la de cuentas falsas, porque es una “acción clave para combatir el spam”, explicó Schultz.

En este punto, afirmó que eliminaron “837 millones de piezas con mensajes no deseados en el primer trimestre de 2018”, y agregó que casi el 100% fue detectado antes de que algún usuario lo haya reportado.  

"La clave para combatir el spam es eliminar las cuentas falsas que lo propagan. En el primer trimestre de 2018, desactivamos alrededor de 583 millones de cuentas falsas, la mayoría de ellas dentro de los primeros minutos de registro”, añadió. 

Aclaró que esas cifras se suman a “los millones de intentos por registrar cuentas falsas en

Facebook

En promedio, dijo estiman que de cada 10.000 piezas de contenido vistas en

Facebook

Para casos como violencia gráfica y discurso de odio, “nuestra tecnología aún no funciona de manera óptima y por eso todavía es necesaria la revisión final del equipo de moderadores” humanos, sostuvo Schultz.

En este punto, Rosen agregó que mejoraron las técnicas vinculadas a revisar “contenidos de odio”, pero admitió que todavía queda un “largo camino por delante”.

En el caso de discurso de odio,

Facebook

Mientra que eliminó o aplicó etiquetas de advertencia en aproximadamente tres millones y medio de piezas con contenidos de violencia en el mismo período. 

Sobre la “propaganda terrorista”, la red social explicó en su informe que lo define “como organizaciones o individuos que participan en ’actos premeditados de violencia contra personas o propiedades para intimidar a una población civil, gobierno u organización internacional con el fin de lograr un objetivo político, religioso o ideológico’‘

"Eliminamos contenido que muestra apoyo o defensa de estas organizaciones, individuos y sus actos”, indicó, y afirmó haber eliminado casi dos millones de contenidos vinculados a “propaganda extremista” en el período analizado. 

"Cómo dijo Mark (Zuckerberg) en (la conferencia para desarrolladores) F8, todavía tenemos mucho trabajo por hacer para evitar el abuso. Si bien tecnologías como inteligencia artificial (IA) son prometedoras, aún están lejos de ser efectivas en su mayor parte para los contenidos indeseados porque el contexto es muy importante”, sostuvo Rosen.

Por ejemplo, afirmó, la IA todavía no es buena para determinar si alguien está promoviendo discursos de odio o está describiendo algo que le pasó para difundir el problema. 

Además, remarcó que en muchas áreas se enfrentan a “adversarios sofisticados” que cambian continuamente de táctica para eludir sus controles, lo que significa que tienen que desarrollar y adaptar sus esfuerzos de forma continua.