Datos masivos frente a contenidos pornográficos

Sólo una proporción muy pequeña de usuarios son “productores” de material pornográfico en ambos servicios estudiados: Live.me y Loops.live / UPF

El análisis masivo de los contenidos de aplicaciones sociales en streaming puede detectar y prevenir contenidos pornográficos

.

Las aplicaciones sociales para móviles llamadas Social Live Stream Services (SLSS), tienen cada vez más usuarios. Estos servicios permiten compartir en todo momento material en vivo y en directo de una manera y a una escala sin precedentes. Uno de los principales retos de estos servicios es cómo detectar y prevenir comportamientos maliciosos, como por ejemplo, publicar contenido explícitamente pornográfico. Aunque existen mecanismos para evitar estas malas prácticas, en realidad los mismos usuarios en sus valoraciones alertan de algunas malas experiencias.

.

UPF / Vicenç Gómez, investigador Ramón y Cajal del Departamento de Tecnologías de la Información y las Comunicaciones (DTIC) de la UPF, conjuntamente con Nikos Lykousas y Constantinos Patsakis, investigadores de la Universoidad del Pireo (Grecia), presentan los resultados de un estudio al congreso internacional The 2018 IEEE / ACM International Conference on Advances in Social Networks Analysis and Mining (ASONAM 2018) que se celebrará en Barcelona del 28 al 31 de agosto, para el que Nikos Lykousas, primer autor del trabajo, ha analizado el tráfico de dos de estos servicios SLSS, concretamente Live.me y LoopsLive , que son visitados por millones de usuarios y que producen cantidades masivas de contenido de vídeo diariamente.

Procesando gran cantidad de contenidos a gran escala se puede mejorar y automatizar fácilmente el proceso de detección de este tipo de comportamientos

“En este estudio nos hemos centrado en la producción y el consumo de contenido pornográfico. Para hacerlo, en primer lugar hicimos filtrar nombres de usuarios que contenían términos pornográficos con la ayuda de una gran base de datos. Después, utilizado técnicas computacionales de deep learning para analizar y clasificar si las imágenes de sus vídeos (públicamente disponibles) tenían también este tipo de contenido. Finalmente, analizamos la red de interacciones sociales de esta comunidad de usuarios”, explica Vicenç Gómez.

Uno de los principales resultados del trabajo es que este tipo de comportamiento es realmente excepcional. Sólo una proporción muy pequeña de usuarios son “productores” de material pornográfico en ambos servicios estudiados: Live.me y Loops.live.

Otro resultado importante es la relación existente entre las predicciones del clasificador que los investigadores han empleado y el hecho de que un usuario haya sido bloqueado o no por la plataforma. “Esto lo podemos ver gracias a que la información sobre si un usuario ha sido bloqueado o no por malas prácticas es accesible en la plataforma”, afirma Gómez. Aquí los autores del trabajo han visto que, mientras uno de los servicios estudiados es bastante consistente, el otro no lo es. Más concretamente, en uno de los servicios SLSS estudiados hay muchos usuarios que serían clasificados como “productores” de material pornográfico pero que no han están bloqueados por la plataforma.

En uno de los servicios SLSS hay muchos usuarios que serían clasificados como “productores” de material pornográfico pero que no han están bloqueados por la plataforma

Los autores han puesto también de manifiesto que los “productores” están muy aislados, es decir, ni se siguen entre sí ni son seguidos por “otros productores”, mientras que los “consumidores” tienen un comportamiento opuesto: se siguen mucho entre ellos y son seguidos por otros “consumidores”.

Con este trabajo los investigadores han podido demostrar que procesando gran cantidad de contenidos a gran escala se puede mejorar y automatizar fácilmente (utilizando herramientas públicas) el proceso de detección de este tipo de comportamientos. Además de presentar el trabajo a la conferencia ASONAM, los autores tienen previsto publicar los datos del trabajo debidamente anonimizados en un repositorio para que estén disponibles para la comunidad científica y que otros grupos de investigación puedan analizar.

.

Referencia bibliográfica: 
Nikolaos Lykousas, Vicente Gomez, Constantinos Patsakis (2018), “Adult content in Social Live Streaming Services: Characterizing deviant users and relationships”, comunicación a The 2018 IEEE / ACM International Conference on Advances in Social Networks Analysis and Mining (ASONAM 2018), Barcelona, 28-31 de agosto.

Dejar comentario

Deja tu comentario
Pon tu nombre aquí