Le compte TikTok ‘Robert Pattinson’ est le dernier profil de célébrité improbable qui soulève des questions

Lorsque quelqu’un qui semblait être l’acteur Robert Pattinson s’est présenté sur TikTok il y a environ un mois, les fans ne pouvaient pas y croire.

“J’étais comme, rampant hors de ma peau, j’étais tellement mal à l’aise”, a déclaré Sarah, une experte de Pattinson connue pour ses TikToks sur la franchise “Twilight”. “Parce que celui qui le fait utilise évidemment son visage d’une manière ou d’une autre, mais je ne l’ai pas vraiment compris.”

D’autres utilisateurs de TikTok étaient plus convaincus par le compte. “C’est lui”, a commenté une personne sur une vidéo récente. “Tout ce qui concerne les R-Pats, c’est que personne d’autre ne lui ressemble à distance.”

Le compte est le dernier profil de célébrité improbable à apparaître sur l’application et à semer la confusion, et les experts disent qu’il est fort probable qu’il s’agisse de ce qu’on appelle un deepfake.

Un deepfake est un contenu numérique synthétique qui utilise l’intelligence artificielle et des effets visuels pour manipuler visuellement ou audiblement une vidéo. Des vidéos brutes d’échange de visage créées par des applications mobiles aux logiciels sophistiqués qui peuvent faire apparaître une personne ou dire quelque chose qu’elle n’a jamais fait, les vidéos deepfake utilisent couramment en ligne.

Depuis le compte “Robert Pattinson” (@iam_pattinson) publié sur TikTok le mois dernier, il a accumulé 87,6 millions de vues et près de 600 000 abonnés. La personne présentée dans les vidéos du compte ressemble étrangement à la star de “Twilight” et “The Batman”, déroutant les téléspectateurs de TikTok avec des vidéos autrement banales.

La première vidéo du compte compte plus de 20 millions de vues et montre ce qui semble être l’acteur saluant timidement la caméra avec le tag #robertpattinsonedit.

Dans une vidéo, la personne qui ressemble à Pattinson modélise un costume Batman contrefait acheté sur eBay. Dans un autre, il synchronise sur les lèvres les premières lignes de “Work Out” de J. Cole et pose devant une lumière annulaire.

“Le langage corporel penaud et étrange de la première vidéo”, a noté Sarah, “n’était donc pas quelque chose qu’il ferait jamais.”

Certains téléspectateurs ont commencé à appeler la personne dans les vidéos “Bob Pattinson”.

NBC News n’a pas pu joindre le propriétaire du compte pour un commentaire.

Les représentants de Pattinson n’ont pas immédiatement répondu aux demandes de confirmation ou d’infirmation que le compte lui appartenait réellement. Pattinson n’a pas de comptes publics sur les réseaux sociaux – lors d’une AMA Reddit en 2017, il a déclaré qu’il envisageait de rejoindre les réseaux sociaux “uniquement dans les moments sombres”, et dans une interview en 2019, il a plaisanté en disant qu’il était “trop ​​​​vieux et ennuyeux” pour Instagram. Il a admis avoir utilisé un compte Twitter secret en 2020, mais ne l’utilise pas pour publier publiquement.

“Il n’y a aucun endroit où il peut venir dire:” Ce n’est pas moi, les gars “”, a déclaré Sarah, qui a demandé à être identifiée uniquement par son prénom pour des raisons de confidentialité. “Je pense qu’il fait un deepfake potentiellement bon.”

Sarah théorise que quelqu’un pourrait se faire passer pour Pattinson à cause du moment que l’acteur a dans la culture pop en ce moment.

“Avec ‘Batman’, non seulement il était cool avec les femmes, mais tout d’un coup, les hommes ont commencé à le réclamer aussi d’une manière qu’ils n’avaient jamais eue”, a déclaré Sarah.

Même les experts médico-légaux qui ne connaissent pas aussi bien les manières de Pattinson sont sceptiques quant au récit.

“Le haut niveau de réalisme de ces vidéos est assez surprenant, mais je ne suis pas surpris.”

université de buffalo professeur siwei lyu

Selon Siwei Lyu, professeur à l’Université de Buffalo qui étudie les contrefaçons numériques et l’apprentissage automatique, le compte a des signaux d’alarme. Lyu pense que le compte se fait passer pour Pattinson avec une technologie deepfake de haute qualité.

“Le haut niveau de réalisme de ces vidéos est assez surprenant, mais je ne suis pas surpris”, a déclaré Lyu. Il a ajouté que les vidéos deepfake ont tendance à être “de mauvaise qualité pour cacher des artefacts particuliers”, ou des caractéristiques qui indiquent une déformation du visage.

Lyu et ses étudiants travaillent sur des programmes pour détecter le contenu manipulé numériquement, comme un algorithme qui peut détecter des fonctionnalités que les humains ne peuvent pas détecter.

Mais même à l’œil nu, Lyu a déclaré que certains détails dans les vidéos de @iam_pattinson ne correspondaient pas tout à fait.

Lyu a souligné la différence entre les oreilles de @iam_pattinson et les oreilles réelles de PattinsonAlors que les vraies oreilles de Pattinson sont plus pointues au bout, les oreilles de @iam_pattinson sont arrondies. Selon des recherches menées par l’Université de Californie, le professeur de Berkeley Hany Farid et le chercheur postdoctoral Shruti Agarwal, chaque structure de l’oreille humaine est unique et “fournit une riche source d’informations médico-légales”.

Lyu a suggéré que, comme de nombreuses vidéos deepfake, les vidéos de @iam_pattinson pourraient être réalisées en superposant le visage de Pattinson sur celui de quelqu’un qui a un physique et une couleur de cheveux similaires.

“Le visage peut ressembler à la personne, au sujet, mais l’autre partie du visage peut être un signe révélateur”, a-t-il déclaré.

Les «empreintes d’oreille» humaines sont complexes, et certaines expressions faciales et la parole peuvent subtilement affecter le mouvement de l’oreille. Les traits du visage peuvent être modifiés, mais “la forme de l’oreille, c’est quelque chose de très difficile à changer”, a-t-il déclaré.

Agarawal a convenu que les vidéos sont “plutôt bien faites”, mais la personne qui y figure “n’est pas Robert Pattinson”. Elle a expliqué que la plupart des technologies deepfake ne remplacent que les caractéristiques de certains paramètres faciaux, comme les joues et le menton. Les logiciels de modélisation faciale excluent généralement les oreilles.

En plus des oreilles, Agarwal a déclaré que les mouvements de la bouche dans les vidéos de synchronisation labiale de @iam_pattinson se démarquaient pour elle. Certains sons, comme “B”, “P” et “M” nécessitent que les lèvres se ferment entièrement pour produire ce son. Agarwal a souligné le “décalage” des mouvements dans les vidéos.

“C’est la physiologie de notre visage, que tout dans notre visage est connecté. Et si nous allons juste remplacer une partie du visage et la faire bouger d’une certaine manière, cela ne réparera pas les autres parties”, a-t-elle poursuivi. “Cela va perturber le mouvement naturel.”

“Les humains sont assez bons pour analyser les visages humains parce que c’est ce que nous avons fait toute notre vie.”

Shruti agarwal, chercheur postdoctoral à l’Université de Californie à Berkeley

Certains téléspectateurs peuvent être dupés par les vidéos, mais d’autres les trouvent profondément troublantes. Le phénomène de la ” vallée étrange ” se produit lorsqu’un sentiment de malaise est suscité chez un spectateur lorsqu’une réplique humaine est juste en deçà d’être un faux convaincant. Les deepfakes de qualité supérieure peuvent être plus effrayants que ceux de faible qualité car ces détails visuels sont plus évidents, a ajouté Agarwal.

Il n’y a aucun moyen de quantifier le “signal que les humains captent”, a déclaré Agarwal, mais elle théorise que les signaux faciaux peuvent déclencher les alarmes dans notre cerveau. La façon dont les yeux de @iam_pattinson se déplacent dans les vidéos, par exemple, ne correspond pas tout à fait au mouvement de sa tête, avertissant les téléspectateurs que “il manque quelque chose”.

“Les humains sont assez bons pour analyser les visages humains parce que c’est ce que nous avons fait toute notre vie”, a déclaré Agarwal. “Je pense donc que toute perturbation de ces mouvements naturels est assez rapidement détectée par les yeux humains.”

Certaines personnes peuvent se sentir effrayées en regardant des deepfakes, mais les vidéos synthétisées continuent de tromper les utilisateurs de médias sociaux. Chris Ume, un artiste belge d’effets visuels, a gagné des millions de vues sur TikTok avec une série de vidéos montrant l’acteur Tom Cruise faisant un tour de magie, jouant au golf et tombant.

Dans une interview, Ume a déclaré qu’il “ne voulait à aucun moment tromper les gens”.

“Si je peux aider à créer une prise de conscience, ou même travailler sur la détection à l’avenir, j’adorerais le faire”, a-t-il poursuivi.

Pour discerner ce qui est réel et ce qui ne l’est pas, Agarwal recommande de rechercher un “scintillement” sur les bords du visage d’un personnage, ce qui indique que le visage a peut-être été manipulé numériquement. “Des indices subtils” comme des oreilles ou des mouvements de la bouche mal assortis peuvent être plus difficiles à détecter des vidéos étranges de qualité inférieure, mais le “témoin le plus évident est le scintillement du visage”.

Les vidéos semblant se faire passer pour Pattinson sont relativement inoffensives, a déclaré Lyu, mais il exhorte les téléspectateurs à aborder un contenu similaire avec un œil critique.

“[Someone] peut mettre des voix dans la bouche d’une célébrité et transmettre des messages potentiellement offensants ou controversés”, a déclaré Lyu. “Il est important de faire prendre conscience au public que les vidéos peuvent être synthétisées et manipulées, il doit donc être prudent.”

Sarah, l’experte de “Twilight”, est toujours troublée par le nombre d’utilisateurs de TikTok qui ont été dupés par le compte.

“C’est vraiment effrayant que quelqu’un puisse aller aussi loin, cette personne a posté six ou sept vidéos et les gens ne savent toujours pas”, a déclaré Sarah.

Leave a Comment