Facebook a construit certains des algorithmes les plus avancés pour suivre les utilisateurs, mais lorsqu’il s’agit d’agir sur les rapports d’abus d’utilisateurs sur les groupes Facebook et le contenu qui viole clairement les «normes communautaires» de l’entreprise, la technologie du géant des médias sociaux semble terriblement inadéquate.
La semaine dernière, Facebook a supprimé près de 120 groupes totalisant plus de 300 000 membres. Les groupes étaient pour la plupart fermés – nécessitant l’approbation des administrateurs du groupe avant que les étrangers puissent voir les messages quotidiens des membres du groupe.
Cependant, les titres, les images et les publications disponibles sur la page d’accueil de chaque groupe laissent peu de doute sur leur véritable objectif : vendre de tout, des cartes de crédit volées, des identités et des comptes piratés aux services qui aident à automatiser des choses comme le spam, le phishing et les attaques par déni de service. pour embaucher.
À son crédit, Facebook a supprimé les groupes quelques heures seulement après que BreachTrace a partagé par e-mail une feuille de calcul détaillant chaque groupe, qui a conclu que la durée moyenne d’activité des groupes sur Facebook était de deux ans. Mais je soupçonne que l’entreprise a pris cette mesure extraordinaire principalement parce que je les ai informés que j’avais l’intention d’écrire sur la prolifération de groupes basés sur la cybercriminalité sur Facebook.
Cette histoire, Les groupes de cybercriminalité Facebook supprimés comptaient 300 000 membres, s’est terminée par une déclaration de Facebook promettant de réprimer une telle activité et expliquant aux utilisateurs comment signaler les groupes qui enfreignent ses normes communautaires.
En peu de temps, certains des groupes que j’ai signalés et qui ont été supprimés se sont rétablis quelques heures après l’action de Facebook. Au lieu de contacter directement la branche des relations publiques de Facebook, j’ai décidé de signaler ces groupes ressuscités et d’autres utilisant Processus déclaré de Facebook. Environ deux jours plus tard, j’ai reçu une série de réponses indiquant que Facebook avait examiné mes rapports, mais qu’aucun des groupes n’avait enfreint ses normes. Voici un extrait de ces réponses :
Peut-être devrais-je accorder à Facebook le bénéfice du doute : peut-être que mes multiples signalements les uns après les autres ont déclenché une sorte de fonctionnalité anti-abus conçue pour étrangler ceux qui chercheraient à en abuser pour que des groupes par ailleurs légitimes soient mis hors ligne – beaucoup dans le façon dont les pools de comptes de robots automatisés sont connus pour abuser du système de signalement de Twitter pour réussir à mettre de côté les comptes de cibles spécifiques.
Ou il se peut que je n’ai tout simplement pas cliqué sur la bonne séquence de boutons lors du signalement de ces groupes. La correspondance la plus proche que j’ai pu trouver dans le système de signalement d’abus de Facebook était « N’appartient pas à Facebook » et « Achat ou vente de drogues, d’armes à feu ou de produits réglementés ». Il n’y avait pas d’option pour « vendre des comptes, des cartes de crédit et des identités piratés », ou quoi que ce soit de ce genre.
En tout cas, une chose semble claire : nommer et humilier ces groupes Facebook louches via Twitter semble mieux fonctionner en ce moment pour les faire supprimer de Facebook que d’utiliser le processus de signalement d’abus formel de Facebook. C’est donc ce que j’ai fait jeudi. Voici un exemple :
À quelques minutes de mon tweeter à ce sujet, le groupe était parti. moi aussi a tweeté à propos de « Best of the Best », qui vendait des comptes de nombreux fournisseurs de commerce électronique différents, dont Amazon et eBay :
Ce groupe a également été éliminé peu de temps après mon tweet. Et il en est allé de même pour les autres groupes que j’ai mentionnés dans mon tweetstorm aujourd’hui. Mais en réponse à cette rafale de tweets sur les groupes abusifs sur Facebook, j’ai entendu des dizaines d’autres utilisateurs de Twitter qui ont déclaré avoir reçu la même réponse « ne viole pas nos normes communautaires » de Facebook après avoir signalé d’autres groupes qui bafouaient clairement la société. normes.
Pete Vossle responsable des communications de Facebook, s’est excusé pour cet oubli.
« Nous sommes désolés pour cette erreur », a déclaré Voss. « Ne pas supprimer ce matériel était une erreur et nous l’avons supprimé dès que nous avons enquêté. Notre équipe traite des millions de rapports chaque semaine, et parfois nous nous trompons. Nous examinons spécifiquement ce cas, y compris les options de signalement de l’utilisateur, et nous prenons des mesures pour améliorer l’expérience, ce qui pourrait inclure l’élargissement de la portée des catégories parmi lesquelles choisir.
PDG et fondateur de Facebook Marc Zuckerberg a témoigné devant le Congrès la semaine dernière en réponse aux allégations selon lesquelles la société ne faisait pas assez pour mettre fin à l’abus de sa plate-forme pour des choses comme les fausses nouvelles, les discours de haine et le contenu terroriste. Il est apparu que Facebook emploie déjà 15 000 modérateurs humains pour filtrer et supprimer le contenu offensant, et qu’il prévoit d’en embaucher 5 000 autres d’ici la fin de cette année.
« Mais pour le moment, ces modérateurs ne peuvent réagir qu’aux messages que les utilisateurs de Facebook ont signalés », écrit Chevalierpour Technologyreview.com.
Zuckerberg a déclaré aux législateurs que Facebook espère que les progrès attendus de l’intelligence artificielle ou de la technologie « IA » aideront bientôt le réseau social à faire un meilleur travail d’autocontrôle contre les contenus abusifs. Mais pour le moment, tant que Facebook n’agit principalement sur les signalements d’abus que lorsqu’il est publiquement pressé de le faire par des législateurs ou des personnes comptant des centaines de milliers d’abonnés, l’entreprise continuera d’être poursuivie par la perception que faire autrement est simplement mauvais pour son modèle économique.
Mise à jour, 13 h 32 HE : Plusieurs lecteurs ont attiré mon attention sur une histoire du Huffington Post il y a tout juste trois jours, «Facebook ne semblait pas se soucier d’être harcelé sexuellement jusqu’à ce que je décide d’écrire à ce sujet», à propos d’un journaliste dont les rapports de harcèlement personnel extrême sur Facebook ont été accueillis avec une réponse similaire sur le fait de ne pas violer les normes communautaires de l’entreprise. C’est-à-dire jusqu’à ce qu’elle dise à Facebook qu’elle prévoyait d’écrire à ce sujet.