TikTok en lutte contre les deepfakes ?

Ces derniers temps, plusieurs deepfakes mettant en scène Tom Cruise ont été diffusés sur internet, montrant l'acteur dans des situations plutôt surprenantes, comme jouant au golf ou s'adressant à la caméra pour raconter une histoire. Bien que ces vidéos soient impressionnantes technologiquement parlant, elles inquiètent de plus en plus les utilisateurs de réseaux sociaux et les plateformes elles-mêmes, comme TikTok qui cherche à lutter contre la propagation de deepfakes et de fake news.

Un réseau social  qui diffuse des messages malveillants ?

Les deepfakes ne sont pas seulement une simple curiosité technologique, mais posent de réels problèmes en matière de manipulation de l'information et d'intégrité de l'image publique. Créer des vidéos compromettantes ou fausses pour discréditer ou nuire à l'image de quelqu'un est devenu un jeu d'enfant ! Mais ces vidéos peuvent être utilisées à des fins malveillantes, comme pour tromper les gens en leur faisant croire que Tom Cruise a réellement dit ou fait quelque chose qu'il n'a jamais dite. Il est donc important de rester vigilant face à ce phénomène, et de développer des outils pour détecter et signaler les vidéos manipulées.

Une perte de confiance des utilisateurs ?

Dans le passé, TikTok a été critiqué pour la propagation de deepfakes sur sa plateforme, notamment une fausse chanson de Drake en pseudo-duo avec The Weeknd qui a ébranlé la toile en avril en provoquant la colère du label Universal.

Mais TikTok souhaite aider ses utilisateurs à mieux distinguer les vraies vidéos des deepfakes en offrant une transparence accrue. La plateforme a déjà interdit certains types de deepfake depuis mars 2023 et les créateurs sont tenus de préciser quand les contenus ont été créés via l'IA. Mais une mesure plus accrue était nécessaire pour rendre plus lisible le parcours des utilisateurs sur la plateforme.

Chez TikTok, nous croyons que la confiance est à la base de notre communauté , et nous travaillons constamment pour améliorer la transparence et aider les spectateurs à mieux comprendre le contenu qu’ils voient », souligne la plateforme.

Un badge de confiance comme alternative ?

Le réseau social réfléchit actuellement à une manière de signaler ces vidéos deepfake créées à l'aide de l'intelligence artificielle. Selon un article publié par The Information, cette mesure prendrait la forme d'un message "discret" que les créateurs pourraient afficher sur leur contenu, similaire aux badges "publication sponsorisée".

Cependant, TikTok ne s'est pas encore prononcé sur la manière dont il vérifiera l'application de cette mesure, ce qui repose entièrement sur l'honnêteté des créateurs de contenu. Il est également inconnu si la mention concernera les vidéos entièrement ou partiellement créées à l'aide de l'IA..

Il reste donc à voir comment cette nouvelle mesure sera mise en œuvre et si elle sera vraiment efficace dans la lutte contre les deepfakes sur TikTok.