Avec TikTok et Bumble, un outil développé par Meta qui bannit le revenge porn des réseaux sociaux s’est trouvé de nouvelles perspectives.

StopNCII, un outil développé par Meta pour détecter le revenge porn sur ses réseaux sociaux Facebook et Instagram, s’est trouvé deux nouveaux prospects. La plateforme vidéo TikTok et l’application de rencontres Bumble comparent désormais les médias téléchargés par leurs utilisateurs avec la base de données StopNCII.

Facebook a commencé avec un projet pilote en Australie

En 2017, Facebook a demandé aux utilisateurs australiens de soumettre leurs photos nues à l’opérateur de la plateforme. Ceux-ci devraient soutenir le développement d’un outil de lutte contre le soi-disant revenge porn.

En créant une empreinte numérique des fichiers téléchargés, l’entreprise souhaitait pouvoir identifier plus rapidement et arrêter leur diffusion par d’autres utilisateurs. En particulier, certaines utilisatrices semblaient intéressées par cette fonction en raison de leur situation désespérée, comme le rapporte Bloomberg.

StopNCII utilise des hachages pour détecter le revenge porn sur Facebook et Instagram

Meta met désormais une version évoluée de cet outil à la disposition des utilisateurs de Facebook et d’Instagram dans le monde entier. Il n’est plus nécessaire de télécharger les enregistrements. Parce que le logiciel génère les hachages requis sur l’ordinateur de l’utilisateur et ne les transfère qu’au serveur.

Le groupe travaille en étroite collaboration avec SWGfL sur le développement. Il s’agit d’une organisation britannique à but non lucratif qui propose également une ligne d’assistance Revenge Porn. Plus de 12 000 personnes ont créé plus de 40 000 hachages à l’aide de l’outil appelé StopNCII. Meta compare automatiquement cela avec les médias téléchargés par les utilisateurs de ses réseaux sociaux.

TikTok et Bumble se joignent à la lutte contre le revenge porn

Il y a maintenant deux autres services qui accèdent à cette base de données. La plate-forme vidéo TikTok et l’application de rencontres Bumble comparent désormais leur contenu fourni par les utilisateurs avec les hachages de la base de données StopNCII. À la suite d’une correspondance d’empreintes digitales numériques, les images et vidéos concernées seront bloquées sur les deux plates-formes.

Pour TikTok en particulier, cela pourrait être une étape importante pour accroître la confiance des utilisateurs dans la plateforme. Car récemment le service avait surtout fait la une des journaux négatifs.

Néanmoins, cette mesure n’est pas une grande surprise. Enfin, le Royaume-Uni se prépare à introduire de nouvelles réglementations qui obligeront les plateformes proposant du contenu généré par les utilisateurs à accorder une priorité élevée à la suppression du revenge porn. Et en Australie aussi, les cas signalés sur les réseaux sociaux doivent être supprimés dans les 24 heures.

Des amendes élevées dans ces deux régions constituent une incitation économique à faire disparaître le revenge porn des réseaux le plus rapidement possible. Jusqu’à présent, cependant, l’UE et les États-Unis se sont contentés de rester sur la touche et d’observer la situation.