Une femme dit qu’un appel frauduleux d’IA a cloné la voix de son frère et a prétendu qu’il était tombé dans une épave

Bien que les appels frauduleux aient toujours été une nuisance, la plupart des gens sont capables de les reconnaître facilement comme une fraude et de raccrocher.

Cependant, les nouvelles technologies rendent beaucoup plus difficile la reconnaissance d’un appel frauduleux. Les escrocs utilisent maintenant l’intelligence artificielle pour escroquer les gens en se faisant passer pour un ami ou un membre de la famille en difficulté.

Une femme a été désemparée après avoir pensé que son frère était mort à cause de l’appel frauduleux que son grand-père avait reçu.

Une cible récente de l’escroquerie était le grand-père d’un YouTuber populaire, Brooke Bush, qui publie régulièrement des vlogs avec des membres de sa famille sur sa chaîne YouTube.

Son grand-père a reçu un appel qui ressemblait à son petit frère disant qu’il était sur le point de tomber dans une épave. Puis le téléphone s’est coupé. Après que Brooke eut appris la nouvelle de son grand-père, elle conduisit frénétiquement à la recherche de son frère, craignant qu’il ne soit mort parce qu’il ne décrochait pas son téléphone.

Elle a publié une vidéo expliquant ce qui s’est passé sur TikTok pour sensibiliser et avertir ses abonnés de ne pas tomber dans l’escroquerie.

« Donc, je ressemble à une épave émotionnelle en ce moment parce que je pleure depuis deux heures parce que je pensais que mon petit frère était mort », dit-elle dans la vidéo. « Quelqu’un là-bas a utilisé une machine à IA pour tromper mon grand-père en lui faisant croire que mon petit frère avait fait une épave. »

« J’ai découvert que c’était un escroc qui essayait d’obtenir de l’argent de mon grand-père en appelant et en disant qu’il était allé en prison et qu’il avait tué quelqu’un et qu’il avait besoin d’une caution. »

« Tout cela pour de l’argent, il a agi comme si mon petit frère avait failli mourir », poursuit-elle. « Quel mal. »

Les commentateurs ont afflué avec des histoires personnelles et partagé des conseils sur la façon de savoir si un appel est faux.

Un nombre alarmant de personnes ont déclaré que leur proche avait récemment reçu un faux appel pour une caution ou une rançon. « C’est arrivé à mon père. Quelqu’un l’a appelé avec ma voix disant que j’avais été kidnappé », a écrit un utilisateur.

« La même chose est arrivée à ma tante, mon cousin sanglotait au téléphone en MENDIANT, etc. c’est toute l’IA qui a copié sa voix dans une vidéo de groupe de HIGH SCHOOL », a déclaré un autre.

Les escrocs utilisent la technologie AI pour cloner une voix à partir d’un court clip.

La Federal Trade Commission a publié le mois dernier une déclaration avertissant les gens des appels utilisant des clones de voix générés par l’intelligence artificielle. Tout ce dont un escroc a besoin pour cloner une voix, c’est d’un court clip audio, qui peut provenir d’un contenu publié en ligne ou d’un appel précédent sur votre téléphone, et d’un programme de clonage de voix.

Les escrocs ciblent les générations plus âgées qui sont peut-être moins au courant de la nouvelle technologie. Les grands-parents reçoivent des appels paniqués de ce qui ressemble à leurs petits-enfants, qui disent qu’ils ont détruit leur voiture, atterri en prison ou qu’ils ont besoin d’eux pour envoyer de l’argent.

Un excellent moyen de vérifier si un appel est réel est de créer un mot de sécurité avec les membres de la famille. Un utilisateur a expliqué: «Ma famille et moi avons créé un mot de code en cas de situations comme celle-ci. s’ils reçoivent un appel et que ce mot n’est pas prononcé, ils sauront que ce n’est pas réel.

Si vous recevez un appel d’un parent demandant de l’argent mais que vous n’avez pas de mot de sécurité, ne faites pas confiance à la voix. Raccrochez et appelez la personne qui vous a soi-disant contacté pour vérifier l’histoire.

Maddie Haley est rédactrice pour l’équipe de nouvelles et de divertissement de YourTango. Elle couvre la culture pop et l’actualité des célébrités.