09 janvier 2023 11:00:22 IST
Depuis son lancement en novembre de l’année dernière, le bot IA génératif de ChatGPT a attiré un énorme nombre de fans et une base d’utilisateurs massive, qui l’ont utilisé pour une variété de tâches – de l’écriture de poèmes, d’articles techniques, d’essais et même de romans, à l’utilisation le service en tant que moteur de recherche conversationnel, le bot AI a été l’une des technologies les plus importantes à avoir été lancées l’année dernière. ChatGPT a également été utilisé par les développeurs de logiciels pour écrire du code de base.
Les « hackers » qui n’ont aucune expérience en codage créent maintenant des logiciels malveillants assez dangereux sur ChatGPT et d’autres outils d’IA générative, sans écrire une seule ligne de code. Crédit image : Pexels
En fait, un nouveau rapport de Check Point Research, une société de sécurité numérique, a révélé que l’AI Bot est utilisé par des cybercriminels et des pirates. Le rapport de Check Point Research a révélé que quelques semaines après la mise en ligne de ChatGPT, les participants aux forums de cybercriminalité l’utilisaient pour écrire des logiciels et des e-mails pouvant être utilisés à des fins d’espionnage, de ransomware, de spam malveillant et d’autres tâches malveillantes, même si la plupart d’entre eux avait peu ou pas d’expérience en codage.
« Il est encore trop tôt pour décider si les fonctionnalités de ChatGPT deviendront ou non le nouvel outil préféré des participants au Dark Web », ont écrit les chercheurs de la société. « Cependant, la communauté cybercriminelle a déjà montré un intérêt significatif et saute dans cette dernière tendance pour générer du code malveillant. »
Le mois dernier, un participant au forum a publié ce qu’il prétendait être le premier script qu’il avait écrit et a crédité le chatbot AI d’avoir fourni un « bon [helping] main pour terminer le script avec une belle portée. Dans un autre cas, un participant au forum avec une formation plus technique a publié deux exemples de code, tous deux écrits à l’aide de ChatGPT. Le premier était un script Python pour le vol d’informations post-exploit. Il a recherché des types de fichiers spécifiques, tels que des fichiers PDF, les a copiés dans un répertoire temporaire, les a compressés et les a envoyés à un serveur contrôlé par l’attaquant.
Un autre exemple de logiciel criminel produit par ChatGPT a été conçu pour créer un bazar en ligne automatisé pour acheter ou échanger des informations d’identification pour des comptes compromis, des données de cartes de paiement, des logiciels malveillants et d’autres biens ou services illicites.
Les chercheurs de Check Point se sont également essayés à créer un malware, en utilisant la génération d’IA, et ont réussi à le faire, sans écrire une seule ligne de code. Ce qui était inquiétant dans leur expérience, c’est le fait qu’ils aient créé un e-mail de phishing, qui semblait très sophistiqué et presque impossible à discerner.
Les chercheurs n’ont eu aucun problème à modifier leurs demandes pour contourner ces restrictions, même si les réglementations ChatGPT interdisent son utilisation pour des raisons illicites ou malveillantes. Bien entendu, les défenseurs peuvent également utiliser ChatGPT pour créer un code qui analyse les fichiers à la recherche d’URL dangereuses.
45secondes est un nouveau média, n’hésitez pas à partager notre article sur les réseaux sociaux afin de nous donner un solide coup de pouce. ?
