dans

Examen de l’application Wombo Deepfake: pas aussi effrayant que les théoriciens du complot veulent que vous le croyiez

On parle beaucoup de deepfakes ces derniers temps, d’autant plus qu’une série de deepfakes de Tom Cruise est apparue sur TikTok qui était visuellement impossible à distinguer du vrai contenu de Tom Cruise.

Les deepfakes sont, selon Wikipédia, « des médias synthétiques dans lesquels une personne dans une image ou une vidéo existante est remplacée par la ressemblance de quelqu’un d’autre … leverag[ing] des techniques puissantes de l’apprentissage automatique et de l’intelligence artificielle pour manipuler ou générer du contenu visuel et audio avec un fort potentiel de tromperie. « 

Le créateur, Chris Ume, un spécialiste belge des effets visuels, a utilisé un imitateur de Tom Cruise et aurait passé des semaines à travailler sur la technologie qui permettait à cet imitateur non seulement de ressembler à Tom Cruise, mais d’incarner véritablement son image.

Mais les deepfakes ne sont pas réservés aux célébrités, et ils ne nécessitent pas nécessairement que vous ayez des connaissances techniques approfondies. En fait, il existe une nouvelle application sur le marché qui vous permet de créer votre propre deepfake de chant.

Par exemple, Wombo, dont le slogan est «Faites chanter vos selfies», est une application amusante que vous pouvez utiliser pour créer et envoyer des mèmes étranges et amusants. Mais je ne peux pas m’empêcher de me demander si ses utilisations à l’avenir seront beaucoup plus sombres – ou si l’inquiétude concernant les deepfakes est exagérée.

J’ai décidé d’essayer l’application Wombo deepfake pour voir si cela fonctionne et pour en savoir plus sur son potentiel.

Après tout, si vous écoutez les théories du complot, vous pourriez penser que Wombo est sur le point de détruire le tissu même de la société.

Ce que j’ai découvert, c’est que le problème est compliqué … mais Wombo ne l’est vraiment pas.

Wombo vous permet de prendre une photo, ou d’en utiliser une de votre pellicule, pour donner l’impression que le sujet est en synchronisation labiale.

Si vous utilisez la version gratuite, comme je l’ai fait, vous pouvez choisir parmi une sélection de chansons telles que « What is Love? » par Haddaway, « Never Gonna Give You Up » de Ricks Astley, « Numa Numa » de O-Zone et « Thriller » de Michael Jackson.

Avec le plan premium, vous pouvez avoir accès à plus de contenu sur Wombo pour seulement 4,49 € par mois ou 29,99 € par an.

Un article sur L’indépendant explique que des outils comme Wombo «Utilisez l’apprentissage automatique pour repérer les parties d’un visage qui doivent être animées et les déplacer en fonction de la musique.» Il continue d’expliquer que cette entreprise n’est pas actuellement vendre les données pour gagner de l’argent, mais plutôt offrir un service où les gens peuvent payer plus de services sur l’application pour créer du contenu amusant. Drôle pour l’instant, au moins.

Quand j’ai utilisé l’application pour la première fois, j’ai immédiatement envoyé à ma meilleure amie une vidéo ridicule de « sa » synchronisation labiale avec une chanson. Nous avons tous les deux ri, mais personne n’aurait pensé que c’était en fait une vidéo pour elle. Malheureusement, cela n’a pas fonctionné avec mon chat, ce qui est vraiment décevant car j’étais excité de le voir chanter.

Dans l’ensemble, l’application était très amusante à jouer. Il a fallu une image de bébé hilarante et plus que légèrement effrayante de moi en train de pleurer et l’a fait chanter « Witch Doctor ».

Cependant, des questions sont déjà soulevées sur le potentiel de création de deepfakes avec cette application et les dommages potentiels que cela peut causer.

Après tout, les Deepfakes sont déjà utilisés pour commettre des crimes. Un crime notable utilisant des deepfakes s’est produit au Royaume-Uni, où un escroc a créé un deepfake très convaincant de la voix d’un PDG qui a obligé un employé à virer des fonds d’un montant équivalent aux États-Unis de près de 250000 € à l’escroc.

Les préoccupations concernant la technologie deepfake sont donc certainement justifiées.

Actuellement, l’application propose uniquement de mettre des chansons sur un visage, et les vidéos sont souvent partagées sur TikTok ou d’autres plateformes de médias sociaux – ce qui est assez innocent. Les images ne sont pas de très bonne qualité et semblent très éditées et étirées. Il y a donc peu de chances que quelqu’un puisse confondre les médias avec quoi que ce soit qui ressemble à la réalité.

Mais avec la popularité croissante de l’application et la vitesse à laquelle la technologie progresse, les gens peuvent vouloir une vidéo plus réaliste et cela pourrait potentiellement arriver plus tôt que nous ne le pensons.

Il est également possible d’utiliser une image contre quelqu’un, par exemple en chantant une chanson inappropriée, ou, si les créateurs de l’application autorisent les utilisateurs à télécharger leur propre audio, faites en sorte que quelqu’un dise quelque chose qu’ils ne sont pas.

Cette technologie n’est pas nouvelle. Le même type de technologie peut être utilisé pour placer des personnes dans des films décédés, comme la fonction Deep Nostalgia de l’application MyHeritage, ou pour des jeux vidéo de sport afin que les gens puissent voir leurs joueurs préférés tout en jouant.

Parce qu’il est devenu moins cher et plus accessible aux gens, les gens créent de plus en plus de deepfakes. Il y a déjà eu des escroqueries où les entreprises ont perdu de l’argent en raison de deepfakes audio.

L’article continue ci-dessous

Dans un New York Times vidéo d’opinion (ci-dessous), chercheur sur les médias sociaux Claire Wardle soutient que les deepfakes eux-mêmes ne sont pas le problème. En fait, dit-elle, «le battage médiatique alarmiste est peut-être plus dangereux que la technologie elle-même».

Ce battage médiatique alamiste amène les gens à douter de ce qu’ils voient et à ne pas croire leurs propres yeux.

Oui, un bon deepfake peut rendre difficile pour les gens de déterminer si ce qu’ils voient est réel, mais la grande menace à l’heure actuelle réside dans le fait que les politiciens ou d’autres utilisent les deepfakes comme excuse pour nier les choses qu’ils ont fait, comme l’ancien président Trump niant avoir jamais dit qu’il avait attrapé des femmes dans cette vidéo controversée d’Access Hollywood.

Nous avons tous vu la vidéo connexe et l’avons entendu le dire de nos propres oreilles, mais en raison de l’existence de deepfakes, son déni sème l’incertitude parmi ses partisans quant à savoir si cela a jamais été réel – même si nous le savons, et Trump a même reconnu que et s’est excusé pour cela en 2016.

Wardle dit que cette technologie ne fait que devenir moins chère, donc de plus en plus de gens vont l’utiliser et je ne peux pas m’empêcher de me demander si des applications comme Wombo ne feront qu’exacerber ces deux problèmes – le problème des deepfakes eux-mêmes et du très réel paranoïa autour d’eux.

Si la technologie devient hyperréaliste, elle accorde une technologie deepfake à ceux qui, autrement, n’y auraient pas accès.

Mais ce ne serait peut-être pas une si mauvaise chose. Nous devrions tous commencer à examiner de plus près le contenu que nous consommons et à nous demander s’il est authentique, et être forcés d’examiner s’il peut s’agir ou non de propagande à des fins néfastes.

Étant donné qu’il existe déjà des applications hyperréalistes qui changent de visage, couramment utilisées pour «photoshoper» les selfies des gens, ce n’est pas un problème nouveau, mais c’est un problème qui ne continuera probablement à se présenter que de manière nouvelle et variable. formes.

Leeann Reed est une artiste textile, poète et écrivain qui couvre l’actualité, le divertissement et le style de vie.

45secondes est un nouveau média, n’hésitez pas à partager notre article sur les réseaux sociaux afin de nous donner un solide coup de pouce. 🙂

  • Cam Voile avec Flèche Lit Casetta
    Cam Voile avec Flèche Lit CasettaAccessoire chambre bébé, couleurs neutre ; sert aussi bien pour meubler que pour protéger l’enfant contre les piqûres des insectes.Voile finition coton, ruban brodé, avec flèche à appliquer au lit bé
  • Cam Voile avec Flèche Lit Ours
    Cam Voile avec Flèche Lit OursAccessoire chambre bébé, couleurs neutre ; sert aussi bien pour meubler que pour protéger l’enfant contre les piqûres des insectes.Voile finition piqué, ruban brodé, avec flèche à appliquer au lit b&eac
  • TALENTI table basse d'extérieur CRUISE TEAK Collection Icon (160 x 90 cm - Grès Capraia, Teak fumé)
    La table basse de la collection Cruise Teak Talenti est simple mais particulière en même temps. Versatile dans ses applications, la table 90x45 cm peut aussi être utilisée à l'intérieur du canapé modulaire Cruise Teak, en distançant, avec style, un module de l'autre. Le plateau est réalisé en grès tandis que