TikTok, l'application de partage de vidéos courtes qui a contribué à redéfinir l'industrie des médias sociaux, se retrouve sous les projecteurs pour des raisons inquiétantes. Des documents internes récemment divulgués ont révélé des pratiques de modération de contenu et de promotion des utilisateurs qui soulèvent de sérieuses questions éthiques. Selon ces documents, TikTok aurait eu pour politique de promouvoir les vidéos mettant en scène des personnes jugées « attractives », tout en restreignant la visibilité des contenus de jeunes adolescents et d'utilisateurs considérés comme « non attrayants ».Des jeunes de 15 ans se déshabillaient sur la fonction « live » de TikTok, alimentée par des adultes qui payaient pour cela.
C'est ce qu'a appris TikTok en lançant une enquête interne à la suite d'un rapport de Forbes. Les responsables de TikTok ont découvert qu'il y avait un nombre « élevé » de streamers mineurs qui recevaient un « cadeau » ou une « pièce » en échange du strip-tease (de l'argent réel converti en monnaie numérique, souvent sous la forme d'un jouet en peluche ou d'une fleur).
Il s'agit de l'un des nombreux témoignages troublants révélés par une série de documents secrets examinés la semaine dernière par la Kentucky Public Radio. Ce qui est encore plus troublant, c'est que les dirigeants de TikTok étaient parfaitement conscients des dommages potentiels que l'application peut causer aux adolescents, mais ne semblaient pas s'en préoccuper.
Ces informations font suite à une enquête de plus de deux ans menée par 14 procureurs généraux sur TikTok, qui a conduit les autorités des États à poursuivre l'entreprise en justice mardi.
Quelques-unes des allégations les plus graves et les plus inédites concernant TikTok
Voici quelques-unes des allégations les plus graves et les plus inédites concernant TikTok, l'application extrêmement populaire utilisée par environ 170 millions de personnes aux États-Unis.
Vous pouvez devenir « accro » en moins de 35 minutes, soit 260 vidéos
TikTok a quantifié le nombre précis de vidéos qu'il faut regarder pour devenir dépendant : 260 vidéos. Les autorités du Kentucky notent que si cela peut sembler beaucoup, les vidéos TikTok peuvent ne durer que quelques secondes. « Ainsi, en moins de 35 minutes, un utilisateur moyen est susceptible de devenir dépendant de la plateforme », concluent les enquêteurs de l'État.
L'algorithme de TikTok privilégie les belles personnes
Lorsque le flux vidéo principal de TikTok a vu « un volume élevé de sujets peu attrayants » remplir les écrans de tous les utilisateurs, l'application a modifié son algorithme afin d'amplifier les utilisateurs que l'entreprise considérait comme beaux, selon un rapport interne consulté par les enquêteurs du Kentucky. En fait, les documents de TikTok montrent que l'entreprise est allée jusqu'à modifier son algorithme pour réduire la visibilité des personnes qu'elle jugeait peu attirantes et qu'elle « a pris des mesures actives pour promouvoir une norme de beauté étroite, même si cela pouvait avoir un impact négatif sur ses jeunes utilisateurs », écrivent les autorités du Kentucky dans les documents précédemment expurgés.
La limitation de l'utilisation de TikTok n'a guère eu d'impact
L'application permet aux parents de fixer des limites de temps pour l'utilisation de leurs enfants, allant de 40 minutes à deux heures par jour. TikTok a même créé un outil qui fixe le délai par défaut à 60 minutes par jour afin de lutter contre l'utilisation excessive et compulsive de l'application de médias sociaux. Après des tests, TikTok a constaté que l'outil n'avait que peu d'impact, puisqu'il ne représentait qu'une minute et demie de baisse d'utilisation, passant d'environ 108,5 minutes par jour à 107 minutes avec l'outil. Selon la plainte, TikTok n'est pas revenu sur cette question.
Un document montre un chef de projet de TikTok s'exprimant franchement sur l'objectif réel de la fonction de limitation de temps : « améliorer la confiance du public dans la plateforme TikTok par le biais de la couverture médiatique », a déclaré l'employé de TikTok. « Notre objectif n'est pas de réduire le temps passé ».
95 % des utilisateurs de smartphones de moins de 17 ans utilisent TikTok
Une présentation faite aux hauts responsables de l'entreprise a révélé qu'environ 95 % des utilisateurs de smartphones de moins de 17 ans utilisaient TikTok au moins une fois par mois. Cela a conduit un membre du personnel de l'entreprise à déclarer qu'elle avait « atteint un plafond parmi les jeunes utilisateurs ». Selon une présentation interne datant de 2021, TikTok se considère comme étant dans une « course aux armements pour attirer l'attention ».
Un document interne sur les utilisateurs de moins de 13 ans demandait aux modérateurs de ne pas donner suite aux rapports sur les utilisateurs mineurs, à moins que leur biographie ne précise qu'ils ont 13 ans ou moins. En vertu de la loi fédérale, les entreprises de médias sociaux ne peuvent pas collecter de données sur des enfants de moins de 13 ans, à moins qu'elles n'aient obtenu le consentement explicite des parents.
L'utilisation compulsive de TikTok interfère avec la vie normale des enfants
Les documents montrent que TikTok était conscient qu'il « interfère avec des responsabilités personnelles essentielles telles qu'un sommeil suffisant, des responsabilités professionnelles ou scolaires, et la connexion avec des êtres chers ». Un cadre de TikTok, dont le nom n'a pas été révélé, a expliqué que si les enfants regardent TikTok, c'est parce que la puissance de l'algorithme de l'application les empêche « de dormir, de manger, de se déplacer dans la pièce et de regarder quelqu'un dans les yeux ».
Réponse de TikTok, des sénateurs et d'un groupe de surveillance
Jeudi, le porte-parole de TikTok, Alex Haurek, a critiqué certains médias pour avoir rapporté des informations qui sont maintenant sous scellés, affirmant que le matériel « sélectionne des citations trompeuses et prend des documents périmés hors contexte pour déformer notre engagement envers la sécurité de la communauté ».
Certains groupes de défense se sont toutefois félicités de ces révélations.
L'Oversight Project, un groupe de surveillance des médias sociaux, a déclaré que TikTok n'avait pas été honnête quant à la sécurité des enfants sur l'application. « Ces documents non expurgés prouvent que TikTok sait exactement ce qu'il fait à nos enfants - et la corruption remonte jusqu'au sommet », a écrit le groupe sur X. « Nous avons besoin d'une législation nationale sur la sécurité des jeunes en ligne pour maîtriser ces entreprises - il est temps que le Congrès adopte KOSA ».
Vendredi également, deux sénateurs bipartisans, Richard Blumenthal (D-Conn.) et Marsha Blackburn (R-Tenn.), ont écrit une lettre à TikTok pour demander à l'entreprise de divulguer « tous les documents et informations » relatifs à la sécurité des enfants sur l'application.These unredacted documents prove that TikTok knows exactly what it’s doing to our kids–and the rot goes all the way to the top.
— The Tech Oversight Project (@Tech_Oversight) October 11, 2024
We need national youth online safety legislation to rein these companies in – it’s time for Congress to #PassKOSA.
« TikTok cible les enfants parce qu'elle sait qu'ils n'ont pas encore la capacité de créer des limites saines autour de contenus addictifs »
Utilisé par la moitié des Américains, TikTok va devoir se défendre contre une série de poursuites judiciaires intentées par les États, qui s'inscrivent dans le contexte d'un malaise national croissant à l'égard de la conception des plateformes de médias sociaux et de la question de savoir si l'utilisation excessive des médias sociaux contribue à des problèmes de santé mentale tels que la dépression et les troubles corporels.
Bien qu'il soit difficile de déterminer le rôle exact que jouent les médias sociaux dans l'aggravation des problèmes de santé mentale, les autorités de l'État affirment que TikTok privilégie la croissance et les profits de l'entreprise au détriment de la sécurité des enfants.
« TikTok cible intentionnellement les enfants parce qu'elle sait qu'ils n'ont pas encore les défenses ou la capacité de créer des limites saines autour de contenus addictifs », a déclaré Rob Bonta, procureur général de Californie, dans un communiqué. « TikTok doit être tenu responsable des préjudices qu'il a causés en privant les enfants américains de leur temps et de leur enfance ».
Des affaires similaires en cours contre Meta
L'année dernière, une coalition d'États a intenté une action en justice similaire contre Meta, propriétaire d'Instagram et de Facebook, accusant le géant de la technologie de ne pas assurer la sécurité des enfants sur les applications populaires. Ces affaires sont toujours en cours.
TikTok, comme la plupart des applications de médias sociaux, tente de maintenir les utilisateurs aussi engagés que possible. Mais les procureurs généraux affirment que des caractéristiques telles que son algorithme hyperpersonnalisé, la possibilité de faire défiler les pages à l'infini et l'utilisation de notifications push encouragent une utilisation excessive qui peut conduire à des changements émotionnels et comportementaux. Les États affirment que l'entreprise a minimisé les effets négatifs de la dépendance présumée que l'application crée, dans le but d'augmenter ses bénéfices.
Les enquêteurs de l'État enquêtent sur TikTok depuis plus de deux ans et ont découvert des tonnes de communications internes de l'entreprise. Dans ces communications, certains membres du personnel de TikTok comparent l'algorithme de l'application à la nature addictive des machines à sous.
En réponse à ces préoccupations, de nombreuses applications de médias sociaux, dont TikTok, ont renforcé leurs outils de sécurité pour les enfants.
Le mois dernier, Meta a annoncé une série de nouvelles fonctionnalités qui renforcent la surveillance parentale sur Instagram et a rendu tous les comptes d'adolescents privés afin d'empêcher les jeunes d'interagir avec des prédateurs potentiels.
De même, les jeunes utilisateurs de TikTok ne peuvent pas envoyer de messages directs et leurs comptes sont privés par défaut afin de limiter leur exposition à des personnes qu'ils ne connaissent pas. L'application utilise également des rappels de temps d'écran pour indiquer aux utilisateurs combien de temps ils ont défilé.
Dans leurs plaintes, les États considèrent les mesures de sécurité de TikTok comme des opérations de relations publiques vides de sens, arguant que l'entreprise n'a pas suffisamment vérifié l'identité des utilisateurs lors de l'ouverture des comptes, ce qui permet aux adolescents de mentir sur leur âge et de contourner les mesures de sécurité pour les enfants.
Le procureur Rob Bonta a écrit dans un communiqué que les fonctionnalités de TikTok destinées à protéger les enfants « ne fonctionnent pas comme annoncé ». « Les effets néfastes de la plateforme sont bien plus importants que ce qui a été reconnu », a-t-il poursuivi, « et TikTok ne donne pas la priorité à la sécurité par rapport au profit ».
Sources : Directives communautaires de TikTok, Utilisation des médias sociaux et santé mentale : une revue de la littérature expérimentale et des implications pour les cliniciens, Internet Watch Foundation, Répondre aux menaces en ligne : Le point de vue des mineurs sur la divulgation, le signalement et le blocage, Forbes
Et vous ?
Pensez-vous que TikTok, en favorisant certaines vidéos, influence la perception de la beauté et de la popularité chez les jeunes utilisateurs? Comment devrions-nous responsabiliser les plateformes de médias sociaux comme TikTok pour garantir une modération équitable et transparente? Quels effets, selon vous, la promotion de contenu "attractif" peut-elle avoir sur la santé mentale des utilisateurs? Comment les utilisateurs peuvent-ils se protéger et dénoncer les pratiques injustes des plateformes de médias sociaux? Croyez-vous qu'il y ait des régulations suffisantes pour contrôler les pratiques des géants technologiques, ou est-il nécessaire d'en faire plus? 
Envoyé par Jules34
