Facebook ha anunciado que ha desarrollado una inteligencia artificial que ayudará a los moderadores a identificar memes ofensivos publicados por los usuarios.
Debido a los problemas de privacidad en los que se ha visto envuelto Facebook, están dispuestos a tratar de limpiar su imagen y mejorar su privacidad a través de nuevas herramientas con las que tendrán un mayor control de lo que sucede y lo que se comparte en su red social.
Facebook trata de limpiar su imagen
Reconocimiento de memes
Según la compañía de Zuckerberg, ‘Rossetta’ ya está en operación y diariamente extrae texto del mil millones de imágenes y frames de vídeos tanto en Facebook como en Instagram. Esto ayuda a las labores de moderación, ya que el equipo de seres humanos es incapaz de ver todas las imágenes que se suban a la plataforma.
‘Rosetta’ se basa en machine learning para identificar tanto texto como imágenes y vídeos, los cuales posteriormente se transcriben a texto y son enviados al equipo de moderación. El sistema tiene marcadas algunas palabras especificas que sirve para emitir una alerta ante un posible mensaje ofensivo, propaganda o discursos de odio. Ante esto, la imagen es eliminada directamente y un humano es quien decide si se mantiene así o se vuelve a publicar.
¿Como Funciona Rossetta?
Rosseta, la inteligencia artificial que reconoce contenido ofensivo
Primeramente, Rosetta ya sabe en qué zonas de las imágenes se puede agregar el texto para solo enfocarse en analizar esta región. Lo anterior ha sido posible gracias a una versión mejorada de la tecnología de reconocimiento óptico de caracteres (ORC). En el caso de los memes, el texto suele aparecer en la parte superior e inferior de la imagen, así que la inteligencia artificial se dirigirá directamente a estos sectores para extraer cualquier texto encontrado.
Posteriormente, el sistema utilizará una red neuronal para transcribir y analizar el texto hasta lograr un veredicto. Rosetta no se detiene cuando se encuentra con un idioma distinto al inglés, incluso tiene la capacidad de interpretar el árabe y el hindi.
Una gran ayuda para que la plataforma pueda evitar que se compartan publicaciones inadecuadas.