Facebook busca desarrollar la tecnología que facilite la búsqueda y eliminación de fotos y videos íntimos publicados sin consentimiento del protagonista, lo que se suele llamar “pornografía vengativa”.
PUBLICIDAD
En la actualidad, los usuarios de Facebook o las víctimas de esta práctica deben denunciar las imágenes para que los contralores de contenido las revisen. La empresa ha sugerido que los usuarios envíen sus imágenes íntimas a Facebook para que la red pueda identificar las publicaciones no autorizadas. Pero muchos usuarios rechazan la idea de enviar fotos o videos reveladores a la red social, sobre todo dada su historia de fallas en materia de privacidad.
La nueva herramienta de aprendizaje de la empresa está diseñada para hallar y señalar automáticamente las imágenes y enviarlas a seres humanos para su revisión.
Esta y otras redes sociales han tenido problemas para vigilar y contener las publicaciones impropias de los usuarios, sean amenazas violentas, teorías conspirativas o imágenes íntimas.
Duras críticas
Facebook ha recibido duras críticas por permitir que mensajes ofensivos permanezcan demasiado tiempo, por no borrar publicaciones que no cumplen con sus normas y a veces por borrar imágenes de valor artístico o histórico. La empresa espera que su nueva tecnología le ayude a descubrir las publicaciones indebidas.
PUBLICIDAD
La tecnología, que se usará en Facebook e Instagram, fue entrenada con fotos que Facebook confirmó previamente eran pornografía vengativa. Está entrenada para reconocer un “casi desnudo” _por ejemplo, en ropa interior_ junto con texto despectivo o infamante que indique que alguien publicó la foto para humillar a otra persona.
Al menos 42 estados han sancionado leyes contra la pornografía vengativa, la publicación no consensual de fotos o video. La ley de Nueva York, sancionada en febrero, permite a las víctimas demandar a los autores y declara que es delito.
