Une nouvelle enquête révèle que le réseau social X d'Elon Musk permet à des utilisateurs « vérifiés » de promouvoir des liens vers des sites Web qui vendent des vidéos d'abus sexuels sur enfant (CSAM). Ces comptes vérifiés ont été trouvés en recherchant « des mots-clés spécifiques en arabe » que les agresseurs sexuels utilisent pour communiquer entre eux sur la plateforme X depuis au moins six mois. La plateforme a déclaré que les comptes concernés ont été bannis immédiatement après qu'elle a reçu un signalement de la par des auteurs de l'enquête. Cependant, cette découverte suscite des interrogations sur le processus de vérification des comptes sur X.La plateforme X d'Elon Musk peine à freiner la propagation des contenus CSAM
Un compte vérifié sur X (ex-Twitter) apparaît avec une coche bleue, ce qui signifie qu'il est lié à un abonnement X Premium actif. Les types de badges de vérification sur le site comprennent les coches bleues, or et grises, ainsi que les badges d'affiliation et les étiquettes de compte automatisées. Ils bénéficient d'une visibilité plus large sur X, qui assure que le processus de vérification comprend de nombreuses mesures visant à garantir la sécurité de ses utilisateurs.
Toutefois, à plusieurs reprises, des enquêtes ont identifié des utilisateurs vérifiés s'adonnant à des activités répréhensibles, préjudiciables et illégales sur le réseau social d'Elon Musk. L'enquête dont il est question a été menée par la BBC Arabic. Elle a révélé que des comptes vérifiés partageaient des liens vers des sites promouvant la vente de vidéos d'abus sexuels sur enfant. X et Telegram sont de plus en plus critiqués pour leurs politiques en matière de CSMA.
Sur X, les comptes vérifiés identifiés par les enquêteurs ne partageaient pas directement de contenu illégal, mais d'autres comptes non vérifiés utilisaient les mêmes mots-clés pour publier des contenus pédopornographiques. L'enquête a révélé que cinq utilisateurs vérifiés partageaient des liens vers des sites Web vendant ce qui semblait être du CSAM. Selon le rapport, un compte vérifié était actif depuis plus d'un an et avait publié des liens pendant plus de six mois.
Toutefois, la plateforme d'Elon Musk n'avait pris aucune mesure contre ce compte. Un autre compte vérifié aurait publié une vidéo montrant du contenu à vendre étiqueté « enfants ». Au cours de l'enquête, X a bloqué l'un des mots-clés, mais au début du mois de novembre 2024, un compte vérifié a été ouvert avec une version modifiée du même mot-clé comme nom de profil. Les mots-clés spécifiques n'ont pas été divulgués par les auteurs de l'enquête.
Un porte-parole de X a déclaré que tous les comptes incriminés ont été bannis. Il a déclaré : « ces comptes ont été suspendus conformément à nos politiques ». Toutefois, l'équipe des relations publiques n'a pas répondu aux questions concernant le processus de vérification de X. Le fait que des comptes vérifiés avec une large visibilité puissent partager ce type de contenu sur X révèle des lacunes dans ses pratiques visant à lutter contre le partage du contenu CSMA.
Au printemps 2024, les plateformes Instagram et Facebook de Meta ont bloqué certains de ces mots-clés, et une recherche sur ces plateformes n'a pas permis de trouver de matériel pédophile lié à ces mots-clés. On ne sait pas encore si X prendra des mesures similaires à celles prises par les plateformes de Meta.
Des lacunes de sécurité dans le processus de vérification des utilisateurs sur X
Après le rachat de Twitter par Elon Musk pour 44 milliards de dollars en novembre 2022, l'une des premières refontes qu'il a annoncées est un nouveau système de certification qui n'est plus lié à la notoriété, mais au paiement d'un abonnement mensuel. La fonction a été mal implémentée et a déclenché un tollé après des incidents d'usurpation d'identité. Bien des modifications ont été apportées au processus de certification depuis lors, des défis restent à relever.
Les abonnements premium de X sont proposés à partir de 8 $/mois. De plus, si un utilisateur a plus de 2500 abonnés vérifiés, il aura accès aux fonctionnalités Premium gratuitement. S'il a plus de 5 000 abonnés vérifiés, il peut obtenir gratuitement X Premium+. Les utilisateurs qui souhaitent obtenir un compte vérifié doivent fournir un compte bancaire et un numéro de téléphone, et en retour, leur compte est renforcé dans l'algorithme de la plateforme.
Les comptes vérifiés suspendus contrôlés par la BBC avaient très peu d'abonnés, allant de quelques dizaines à quelques centaines, mais leurs messages ont pu toucher un large public, certains atteignant plus de 40 000 vues. Selon le rapport, ces comptes ont également publié « des promotions et des messages publicitaires pour des canaux Telegram », avec des captures d'écran de fichiers affichés avec des étiquettes telles que « petit garçon » et « petite fille ».
Les enquêteurs n'ont pas acheté l'accès à ces fichiers et n'ont donc pas pu confirmer si les vendeurs étaient réels. Outre les comptes vérifiés, ils ont également trouvé une douzaine de comptes réguliers partageant des liens sous les mêmes mots-clés. Certains d'entre eux publiaient des contenus CSAM directement sur leur fil d'actualité. Les comptes ont été signalés à l'Internet Watch Foundation, qui enquête, signale et supprime les contenus CSAM sur les plateformes.
Le groupe a confirmé que l'un des comptes partageait des vidéos de catégorie B, la deuxième catégorie criminelle la plus élevée, qui dépeint une activité sexuelle incomplète avec des enfants. Les vidéos montraient des garçons et des filles âgés de 7 à 10 ans - pas dans la même vidéo - d'origine blanche, asiatique ou non identifiée. D'autres comptes que les enquêteurs ont partagés avec l'organisation semblent avoir été suspendus (ou le contenu illégal supprimé).
Un compte non vérifié a partagé une vidéo de classe A montrant des rapports sexuels « complets » avec un garçon âgé d'environ 10 ans. Les experts de la fondation ont déclaré : « toutes les vidéos étaient recouvertes, dans une certaine mesure, d'un autocollant numérique circulaire noir portant le nom d'un magasin, mais suffisamment d'entre elles étaient visibles pour être évaluées et faire l'objet d'une action, car elles contenaient un contenu pédophile ».
Telegram et X très critiqués pour leurs politiques en matière de modération
En mai 2024, la Commission européenne a adressé à X une demande officielle d'informations sur le déclin apparent de la surveillance des contenus depuis que le milliardaire Elon Musk a réduit l'équipe chargée de la confiance et de la sécurité après avoir racheté la plateforme en 2022. Selon un rapport publié en avril 2024, les comptes vérifiés qui glorifient le nazisme et promeuvent des contenus antisémites sur la plateforme prolifèrent sous Elon Musk.
Ces comptes font l'éloge de soldats nazis, partagent des symboles nazis et nient l'existence de l'Holocauste. Dans un cas spécifique observé en mars 2024, plus de 5 300 comptes vérifiés et non vérifiés ont repartagé un message pronazi, et des dizaines d'autres messages populaires ont été repartagés des centaines de fois chacun. Le rapport d'étude, publié par NBC News, souligne que la plateforme d'Elon Musk ne semble pas appliquer ses politiques de modération.
En ce qui concerne Telegram, les chercheurs ont recensé des milliers de chaînes et de groupes sur Telegram qui proposent des identités volées pouvant être utilisées pour ouvrir des comptes bancaires et des comptes d'investissement. Telegram serait l'application la plus utilisée par les délinquants pour visionner et partager des contenus pédophiles. En Russie, la plateforme serait utilisée par des intermédiaires pour organiser la contrebande de pièces d'armes.
Il existerait des milliers de chaînes et de groupes Telegram de ce type. Certains prétendent proposer des comptes bancaires déjà créés à partir d'informations personnelles volées. Par exemple, une chaîne appelée "Bank Store Online" a listé des comptes dans plus de 60 banques et bourses de cryptomonnaie à vendre, allant de 80 dollars pour un compte personnel à 1 800 dollars pour un compte professionnel. Les paiements sont facturés en cryptomonnaie.
Telegram a également été fortement critiqué par les forces de l'ordre et les organisations de défense des droits de l'homme et l'enfant pour avoir hébergé des activités illégales, notamment liées à l'exploitation sexuelle des enfants. Le PDG de Telegram, Pavel Durov, a été arrêté en France le 24 août 2024 dans le cadre d'une enquête sur son incapacité à prévenir la criminalité, notamment la distribution de ce type de matériel abusif sur sa plateforme.
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous du traitement du contenu CSMA partagé sur la plateforme X d'Elon Musk et Telegram ? Selon vous, pourquoi ce type de contenu semble rester plus longtemps et proliférer plus rapidement sur X et Telegram ? Selon vous, l'état de X et de Telegram est-il lié à leur politique stricte en matière de liberté d'expression ?Voir aussi
Un rapport indique que des milliers de chaînes Telegram vendent des identités volées, des drogues illicites et du matériel pédopornographique, faisant de l'outil un nouveau type de darknet pour les criminels Les comptes vérifiés glorifiant le nazisme et promouvant des contenus antisémites sur le réseau social X prolifèrent sous Elon Musk, en raison des règles de modération laxistes de la plateforme Le PDG de Telegram, Pavel Durov, capitule et déclare que l'appli transmettra les données de ses utilisateurs aux gouvernements afin d'arrêter les criminels, la décision fait suite à son arrestation en France 
Envoyé par Jules34
