Des comptes « vérifiés » sur X (ex-Twitter) partagent des liens vers des sites Web qui vendent des vidéos d'abus sexuels sur enfant,

Selon une enquête

Une nouvelle enquête révèle que le réseau social X d'Elon Musk permet à des utilisateurs « vérifiés » de promouvoir des liens vers des sites Web qui vendent des vidéos d'abus sexuels sur enfant (CSAM). Ces comptes vérifiés ont été trouvés en recherchant « des mots-clés spécifiques en arabe » que les agresseurs sexuels utilisent pour communiquer entre eux sur la plateforme X depuis au moins six mois. La plateforme a déclaré que les comptes concernés ont été bannis immédiatement après qu'elle a reçu un signalement de la par des auteurs de l'enquête. Cependant, cette découverte suscite des interrogations sur le processus de vérification des comptes sur X.

La plateforme X d'Elon Musk peine à freiner la propagation des contenus CSAM

Un compte vérifié sur X (ex-Twitter) apparaît avec une coche bleue, ce qui signifie qu'il est lié à un abonnement X Premium actif. Les types de badges de vérification sur le site comprennent les coches bleues, or et grises, ainsi que les badges d'affiliation et les étiquettes de compte automatisées. Ils bénéficient d'une visibilité plus large sur X, qui assure que le processus de vérification comprend de nombreuses mesures visant à garantir la sécurité de ses utilisateurs.

Toutefois, à plusieurs reprises, des enquêtes ont identifié des utilisateurs vérifiés s'adonnant à des activités répréhensibles, préjudiciables et illégales sur le réseau social d'Elon Musk. L'enquête dont il est question a été menée par la BBC Arabic. Elle a révélé que des comptes vérifiés partageaient des liens vers des sites promouvant la vente de vidéos d'abus sexuels sur enfant. X et Telegram sont de plus en plus critiqués pour leurs politiques en matière de CSMA.


Sur X, les comptes vérifiés identifiés par les enquêteurs ne partageaient pas directement de contenu illégal, mais d'autres comptes non vérifiés utilisaient les mêmes mots-clés pour publier des contenus pédopornographiques. L'enquête a révélé que cinq utilisateurs vérifiés partageaient des liens vers des sites Web vendant ce qui semblait être du CSAM. Selon le rapport, un compte vérifié était actif depuis plus d'un an et avait publié des liens pendant plus de six mois.

Toutefois, la plateforme d'Elon Musk n'avait pris aucune mesure contre ce compte. Un autre compte vérifié aurait publié une vidéo montrant du contenu à vendre étiqueté « enfants ». Au cours de l'enquête, X a bloqué l'un des mots-clés, mais au début du mois de novembre 2024, un compte vérifié a été ouvert avec une version modifiée du même mot-clé comme nom de profil. Les mots-clés spécifiques n'ont pas été divulgués par les auteurs de l'enquête.

Un porte-parole de X a déclaré que tous les comptes incriminés ont été bannis. Il a déclaré : « ces comptes ont été suspendus conformément à nos politiques ». Toutefois, l'équipe des relations publiques n'a pas répondu aux questions concernant le processus de vérification de X. Le fait que des comptes vérifiés avec une large visibilité puissent partager ce type de contenu sur X révèle des lacunes dans ses pratiques visant à lutter contre le partage du contenu CSMA.

Au printemps 2024, les plateformes Instagram et Facebook de Meta ont bloqué certains de ces mots-clés, et une recherche sur ces plateformes n'a pas permis de trouver de matériel pédophile lié à ces mots-clés. On ne sait pas encore si X prendra des mesures similaires à celles prises par les plateformes de Meta.

Des lacunes de sécurité dans le processus de vérification des utilisateurs sur X

Après le rachat de Twitter par Elon Musk pour 44 milliards de dollars en novembre 2022, l'une des premières refontes qu'il a annoncées est un nouveau système de certification qui n'est plus lié à la notoriété, mais au paiement d'un abonnement mensuel. La fonction a été mal implémentée et a déclenché un tollé après des incidents d'usurpation d'identité. Bien des modifications ont été apportées au processus de certification depuis lors, des défis restent à relever.

Les abonnements premium de X sont proposés à partir de 8 $/mois. De plus, si un utilisateur a plus de 2500 abonnés vérifiés, il aura accès aux fonctionnalités Premium gratuitement. S'il a plus de 5 000 abonnés vérifiés, il peut obtenir gratuitement X Premium+. Les utilisateurs qui souhaitent obtenir un compte vérifié doivent fournir un compte bancaire et un numéro de téléphone, et en retour, leur compte est renforcé dans l'algorithme de la plateforme.

Les comptes vérifiés suspendus contrôlés par la BBC avaient très peu d'abonnés, allant de quelques dizaines à quelques centaines, mais leurs messages ont pu toucher un large public, certains atteignant plus de 40 000 vues. Selon le rapport, ces comptes ont également publié « des promotions et des messages publicitaires pour des canaux Telegram », avec des captures d'écran de fichiers affichés avec des étiquettes telles que « petit garçon » et « petite fille ».

Les enquêteurs n'ont pas acheté l'accès à ces fichiers et n'ont donc pas pu confirmer si les vendeurs étaient réels. Outre les comptes vérifiés, ils ont également trouvé une douzaine de comptes réguliers partageant des liens sous les mêmes mots-clés. Certains d'entre eux publiaient des contenus CSAM directement sur leur fil d'actualité. Les comptes ont été signalés à l'Internet Watch Foundation, qui enquête, signale et supprime les contenus CSAM sur les plateformes.

Le groupe a confirmé que l'un des comptes partageait des vidéos de catégorie B, la deuxième catégorie criminelle la plus élevée, qui dépeint une activité sexuelle incomplète avec des enfants. Les vidéos montraient des garçons et des filles âgés de 7 à 10 ans - pas dans la même vidéo - d'origine blanche, asiatique ou non identifiée. D'autres comptes que les enquêteurs ont partagés avec l'organisation semblent avoir été suspendus (ou le contenu illégal supprimé).

Un compte non vérifié a partagé une vidéo de classe A montrant des rapports sexuels « complets » avec un garçon âgé d'environ 10 ans. Les experts de la fondation ont déclaré : « toutes les vidéos étaient recouvertes, dans une certaine mesure, d'un autocollant numérique circulaire noir portant le nom d'un magasin, mais suffisamment d'entre elles étaient visibles pour être évaluées et faire l'objet d'une action, car elles contenaient un contenu pédophile ».

Telegram et X très critiqués pour leurs politiques en matière de modération

En mai 2024, la Commission européenne a adressé à X une demande officielle d'informations sur le déclin apparent de la surveillance des contenus depuis que le milliardaire Elon Musk a réduit l'équipe chargée de la confiance et de la sécurité après avoir racheté la plateforme en 2022. Selon un rapport publié en avril 2024, les comptes vérifiés qui glorifient le nazisme et promeuvent des contenus antisémites sur la plateforme prolifèrent sous Elon Musk.

Ces comptes font l'éloge de soldats nazis, partagent des symboles nazis et...