Les deepfakes mettant en scène le président américain Joe Biden continuent d'être largement diffusés sur TikTok. Dans de nombreux cas, ces fausses vidéos sont diffusées sans aucune mention ni divulgation comme l'exigent les politiques d'utilisation de la plateforme, en violation flagrante des politiques de la plateforme. Par le passé, des experts ont souligné que TikTok a l'habitude de ne pas être à la hauteur lorsqu'il s'agit de modérer les contenus générés par l'IA ou modifiés de manière trompeuse. ByteDance est actuellement soumis à des pressions croissantes pour céder l'activité américaine de TikTok sous peine de voir sa plateforme interdite aux États-Unis.Selon les lignes directrices communautaires de TikTok, "les médias synthétiques ou manipulés qui montrent des scènes réalistes doivent être clairement divulgués en affichant un autocollant ou une légende, comme synthétique, faux, pas réel ou altéré". Cette politique précise également que "le matériel qui a été édité, raccordé ou combiné (comme la vidéo et l'audio) d'une manière qui peut induire une personne en erreur sur des événements réels n'est pas autorisé". De nouveaux rapports signalent un laxisme dans l'application de ces règles, ce qui permet aux utilisateurs de diffuser largement des deepfakes sur la plateforme.
Media Matters a trouvé plusieurs vidéos sur TikTok qui montrent Joe Biden avec un son altéré et qui ne comportent aucune étiquette ou information sur l'altération. (Ces vidéos durent moins de 60 secondes et ne semblent donc pas être éligibles au programme de récompenses.) Le 29 avril, Snopes a identifié une vidéo de la visite de Joe Biden, le 17 avril, dans une supérette Sheetz à Pittsburgh, qui a été modifiée pour inclure des huées et d'autres chahuts et qui a été partagée sur les médias sociaux. L'audio proviendrait d'une vidéo prise par un manifestant qui chahutait le cortège de Joe Biden lors de sa visite à Maui en 2023.
Aucune des vidéos manipulées n'a été étiquetée ou divulguée comme étant fausse. Une enquête distincte de USA Today a révélé qu'une vidéo de Joe Biden visitant une entreprise d'Allentown, en Pennsylvanie, avait été modifiée de la même manière, avec un son rempli de blasphème, et postée sur Instagram et X (anciennement Twitter) en janvier. Bien que Joe Biden ait été chahuté lors de sa visite, d'autres injures auraient été ajoutées à la vidéo. Plusieurs vidéos ont été manipulées pour inclure des chants profanes dirigés contre Joe Biden, y compris des vidéos modifiées d'un discours du président sur la violence des armes à feu.
Bien que le nombre de deepfakes mettant en scène le président américain Joe Biden ait augmenté ces derniers mois, le problème ne touche pas que lui. D'autres personnalités influentes sont aussi concernées. Selon les experts, ces vidéos pullulent sur TikTok, car la plateforme n'applique pas comme cela se doit ses règles communautaires, permettant ainsi toute forme de violation. Des deepfakes faisant la promotion d'escroqueries au bitcoin, de produits de santé douteux et de théories du complot générées par l'IA ont proliféré sur la plateforme, y compris d'autres vidéos de politiciens éditées de manière trompeuse.
Dans certains cas, des utilisateurs ont pu profiter du programme de récompenses pour les créateurs de TikTok (anciennement le programme de créativité), qui vise à rémunérer les créateurs pour les contenus de plus de 60 secondes qu'ils publient sur la plateforme. Face à l'augmentation de deepfakes faisant la promotion d'escroquerie et mettant en scène des politiciens de manière trompeuse, la Maison Blanche a annoncé en février qu'elle travaille sur des techniques pouvant permettre de vérifier cryptographiquement ses communiqués officiels. Aucun détail n'a encore été communiqué sur la forme que prendrait ce processus.
Les outils d'IA générative ont rendu beaucoup moins coûteuse et plus facile la diffusion du type de désinformation susceptible d’induire les électeurs en erreur et potentiellement d’influencer les élections. De fausses voix, images et autres contenus manipulés ont déjà été diffusés en ligne pour tenter de saper les élections présidentielles américaines de novembre 2024. La FCC (Federal Communications Commission) a interdit les appels automatisés générés par l'IA après qu'un appel destiné aux électeurs du New Hampshire a imité la voix du président Joe Biden et les exhortés à ne pas voter lors des élections primaires de l'État.
Le problème des deepfakes sur TikTok prend de l'ampleur dans un contexte où l'application est confrontée à une incertitude quant à son avenir sur le marché américain. Une nouvelle loi votée le mois dernier interdirait TikTok aux États-Unis à moins que son propriétaire, ByteDance, ne vende l'application populaire de partage de vidéos courtes. Le vote de cette législation a été motivé par des préoccupations bipartisanes en matière de sécurité nationale. Les législateurs américains craignent en effet que le gouvernement chinois ne s'appuie sur ByteDance pour accéder aux informations des utilisateurs américains de TikTok.
Selon les législateurs, cela pourrait permettre à la Chine de surveiller les Américains et de diffuser des informations fausses et trompeuses auprès des électeurs américains. « Il n'est pas difficile d'imaginer comment une plateforme qui facilite tant le commerce, le discours politique et le débat social pourrait être secrètement manipulée pour servir les objectifs d'un régime autoritaire », a déclaré cette semaine le sénateur Mark Warner (D-Va). Certaines sources indiquent que des informations classifiées des services de renseignement ont alerté sur TikTok, mais ces informations ne sont pas encore accessibles au grand public.
Les détracteurs de la législation affirment toutefois que les préoccupations liées à TikTok sont exagérées. Par exemple, le sénateur Edward Markey du Massachusetts a déclaré que bien qu'il soit préoccupé par la collecte de données d'utilisateurs par de nombreux réseaux sociaux, il n'a vu aucune preuve crédible que TikTok représente une menace simplement parce que sa société mère est basée en Chine. Que savons-nous donc des efforts déployés par la Chine pour manipuler les Américains à l'aide des médias sociaux, et quel rôle joue TikTok ? Depuis le début, aucune réponse claire n'a été apportée à cette question.
Selon la communauté du renseignement, les entreprises technologiques et les chercheurs indépendants américains, la Chine représente une menace croissante. « La Chine cherche à semer le doute sur le leadership des États-Unis, à saper la démocratie et à étendre l'influence de Pékin », a écrit le Bureau du directeur du renseignement national (ODNI) dans son évaluation annuelle des menaces au début de l'année. Malgré tout, ByteDance dispose de neuf mois pour vendre TikTok à une entreprise américaine sinon l'application sera interdite aux États-Unis. ByteDance n'a toutefois aucune intention de se soumettre.
ByteDance et TikTok envisagent de déposer des recours juridiques contre la législation et espèrent qu'elle sera bloquée par les tribunaux au nom du Premier amendement et d'autres lois américaines sur la liberté d'expression. Un décret similaire signé par Donald Trump, alors président des États-Unis, avait déjà été bloqué par les tribunaux. D'autres rapports indiquent que ByteDance envisage la fermeture de TikTok sur le marché américain si ses recours n'aboutissent pas.
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de la prolifération des deepfakes visant le président américain Joe Biden sur TikTok ? Pensez-vous que TikTok laisse délibérément ces vidéos se propager sur sa plateforme ? Les plateformes de médias sociaux ont-ils perdu la guerre contre les deepfakes ? Pensez-vous que TikTok représente une menace pour la sécurité nationale des États-Unis ?Voir aussi
La Maison Blanche veut «vérifier cryptographiquement» les vidéos de Joe Biden afin que les téléspectateurs ne les confondent pas avec des «deepfakes», et dit reconnaitre « le risque de préjudice » La FCC juge illégales les voix générées par l'IA dans les appels automatisés : "De mauvais acteurs les utilisent pour extorquer des membres de la famille et désinformer les électeurs" Un expert en IA « complètement terrifié » par les élections américaines de 2024, qui s'annoncent comme un « tsunami de désinformation », avec l'avènement des deepfakes et les IA génératives 
Envoyé par Mathis Lucas
