jeudi, mai 30, 2024
AccueilTechNous avons un problème gigantesque avec les images générées par l'IA. ...

Nous avons un problème gigantesque avec les images générées par l’IA. Google pense avoir la solution

Rechercher une image sur Google est très simple. Une autre chose très différente est de savoir si on peut travailler avec, s’il est manipulé ou d’où il vient. Dans la grande majorité des cas, ces informations ne sont généralement pas disponibles, mais le fait est que l’arrivée des IA génératives crée également un chaos encore plus grand dans lequel la désinformation et les fausses images seront plus difficiles à détecter que jamais. Google veut essayer de l’empêcher.

Trop de désinformation. Selon une étude de 2022 de Poynter, 62% des internautes détectent chaque jour ou chaque semaine de fausses informations. Google travaille depuis des années pour minimiser le problème sur le Web, mais maintenant il essaiera de faire de même dans le cas des images.

« A propos de cette image ». Google a annoncé lors de la Google I/O 2023 le lancement de la fonctionnalité « À propos de cette image« . L’option sera d’abord disponible aux États-Unis en anglais, et elle permettra à chaque image d’obtenir un contexte pour chaque image afin que nous puissions mieux évaluer sa crédibilité et sa pertinence.

Celui qui vient à nous. Comme nous l’avons mentionné, cette nouvelle ère où nous sommes inondés d’images générées par l’intelligence artificielle pose un problème majeur, d’autant plus que ces images sont pratiquement indiscernables des images réelles. Il sera de plus en plus difficile de détecter ce qui est réel et ce qui ne l’est pas, et chez Google, ils ont parlé lors de ce discours inaugural de leur philosophie de « l’IA responsable » avec laquelle ils essaieront d’avancer dans ce domaine, mais en essayant d’éviter les problèmes qui sont associés à ce type d’outils. Et parmi celles-ci, insistons-nous, se trouve l’identification de ce qui a été créé par une IA en tant que telle.

Un enregistrement pour chaque image. Grâce à l’outil, nous pourrons savoir 1) quand cette image (et des images similaires) a été indexée dans Google, 2) quand elle aurait pu apparaître pour la première fois et 3) où elle a été publiée en ligne (médias, réseaux sociaux , etc). Avec ces informations, il sera possible de déterminer plus précisément si cette image représente ce qu’elle prétend représenter et est originale ou non.

Exemple d’identification d’une image générée par Midjourney.

Étiquettes pour les images générées par l’IA. Une autre des clés de ce projet est la décision de Google d’étiqueter toutes les images générées avec ses systèmes d’IA générative. La proposition de Google est que les créateurs et les éditeurs taguent également les images afin que lorsqu’elles sont générées par l’IA, il soit possible de les « marquer » comme telles pour détecter plus tard qu’elles ont bien été créées avec ces plateformes. Chez Google, ils affirment que Midjourney ou Shutterstock le feront dans les mois à venir.

Une idée qui se répand. La proposition de Google n’est pas nouvelle, et en fait Adobe a justement parlé de la Content Authenticity Initiative (CAI) dont elle fait partie. Cet organisme soulève l’utilisation de filigranes dans les images, et quelque chose de similaire soulève le JPEG-FM pour lutter contre les deepfakes. Thierry Breton, commissaire européen au marché intérieur, a déjà parlé de l’importance d’établir une réglementation limitant l’IA.

Un défi. C’est certainement une solution possible qui peut ne pas éradiquer le problème mais pourrait certainement le minimiser. Le défi ici est que ces systèmes d’étiquetage soient interopérables ou qu’il y ait une sorte de norme pour unifier les critères et empêcher le processus d’étiquetage et de vérification lui-même de se retrouver dans le chaos.

À 45secondes.fr | Il existe déjà un site internet qui promet de distinguer les images réelles de celles générées par l’IA. a manifestement une astuce

45secondes est un nouveau média, n’hésitez pas à partager notre article sur les réseaux sociaux afin de nous donner un solide coup de pouce. ?

Top Infos

Coups de cœur