Des accusations aux conséquences parfois douloureuses. Plusieurs utilisateurs d’Instagram affirment avoir vu leur compte clôturé par Meta après avoir été accusés à tort d’avoir enfreint ses règles sur l’exploitation sexuelle des enfants en ligne.
Des témoignages alarmants
Au total, plus d’une centaine d’utilisateurs ont contacté la BBC pour faire part de leur problème, partageant les jours difficiles qui ont suivi ce bannissement. Certains ont subi des pertes financières après la désactivation de leurs comptes professionnels, tandis que d’autres ont exprimé leur douleur de ne plus avoir accès à des années de photos et de souvenirs, ce qui a également eu des répercussions sur leur santé mentale. Contacté par le média britannique, Meta a refusé de commenter.
Cas de David : une suspension injustifiée
David (le prénom a été modifié), originaire d’Aberdeen en Écosse, a été suspendu d’Instagram le 4 juin dernier, soi-disant pour non-respect des normes de Meta concernant l’exploitation sexuelle des enfants, les abus sexuels et la nudité. Après avoir fait appel, il a vu son compte désactivé sur Instagram, ainsi que ses comptes Facebook et Facebook Messenger associés.
« Nous avons perdu des années de souvenirs, dans mon cas plus de 10 ans de messages, de photos et de publications à cause d’une accusation complètement scandaleuse », a-t-il déclaré à la BBC, soulignant qu’il a pu discuter avec de nombreuses autres personnes dans une situation similaire.
« J’ai perdu des heures de sommeil et j’ai vécu un stress extrême. C’était horrible, sans parler du fait d’avoir une telle accusation au-dessus de ma tête », a-t-il ajouté.
Rétablissement et excuses de Meta
Quelques heures après que la BBC a fait part du problème de David à Meta, son compte a été rétabli avec un message d’excuse du géant de la tech : « Nous sommes désolés de cette erreur et de l’impossibilité pour vous d’utiliser Instagram pendant un certain temps. Parfois, nous devons agir pour assurer la sécurité de notre communauté. »
Le cas de Faisal
Situation similaire pour Faisal, un étudiant londonien dont le compte professionnel a été banni à tort pour exploitation sexuelle présumée d’enfants. « Meta m’accuse faussement d’un crime que je n’ai jamais commis, ce qui nuit également à mon état mental et à ma santé et m’a mis en isolement total tout au long du mois dernier », déplore-t-il.
Lui aussi, seulement quelques heures après que la BBC a signalé son cas à Meta, a vu son compte rétabli et se dit aujourd’hui « très soulagé ».
Des fausses alertes causées par l’IA
Plus de 28 000 personnes ont signé une pétition accusant le système de modération de Meta, alimenté par l’intelligence artificielle (IA), d’interdire à tort certains comptes. « Ces dernières semaines, le nombre d’utilisateurs signalant des suspensions de compte injustes a considérablement augmenté », peut-on lire dans la description de la pétition.
« Beaucoup de ces cas semblent être des fausses alertes causées par les outils d’intelligence artificielle récemment mis en place par Meta. La procédure d’appel est vague, incohérente et lente. Elle peut prendre des semaines, voire des mois, sans résolution claire », dénonce-t-elle.
Prise de conscience par Meta
Si Meta n’a pas voulu commenter ces affaires, la BBC affirme que le président du Comité des sciences, des TIC, de la radiodiffusion et des communications de l’Assemblée nationale de Corée du Sud a déclaré le mois dernier que Meta avait reconnu la possibilité de suspensions injustifiées de personnes dans son pays.