L’IA vous fait peur ? Vous craignez que votre job-de-demain ne soit robotomatisable ? Que certains algorithmes ne contiennent des biais non-éthiques (racisme par exemple) ? Que l’IA/Robotics ne respecte pas/plus les 3 lois d’Asimov (la numéro 1 est simple : un robot ne peut porter atteinte à un humain) ?

Mais c’est ne pas considérer que l’IA/Robotics peut être développée et mise en service par des esprits/groupes/états malveillants.

Dans un rapport anxiogène, des experts (Future of Humanity Institute d’Oxford, Centre for the Study of Existential Risk de Cambridge, fondation OpenAI d’Elon Musk) nous détaillent les risques que nous encourrons si nous ne mettons pas en place – et vite – un certain nombre de recommandations.

Quelques exemples pour ‘travailler’ notre paranoïa :
– l’IA diminue drastiquement le coût de la malveillance (automatisation). Ainsi le ‘spear phising’ technique visant à attaquer un individu ou le salarié d’une entreprise en ayant déterminé son réseau, ses préférences, sa personnalité. Forcément à un moment donné vous communiquerez votre mot de passe à une sollicitation qui vous semble provenir de quelqu’un qui vous connait si bien.
– Vous vous dites : un mail malveillant…? Pas pour moi, je suis vigilant. Mais si la sollicitation à communiquer votre mot de passe se fait via une vidéo ou un message audio dans laquelle vous reconnaissez la personne qui vous sollicite (technique du Face-swapping ayant permis de diffuser des porn-vidéo avec des célébrités). Serez-vous aussi vigilant ?
– La reconnaissance faciale ? Pratique pour déverrouiller l’accès à sa voiture, sa maison… Mais quand elle sert à reconnaitre des gens appartenant à une minorité ethnique comme c’est déjà le cas en Chine avec la minorité Ouïghour ? Vous envisagez (si l’on peut dire) les dérives potentielles ?

Vous pouvez, si vous avez du temps, lire le rapport complet (100 pages) pour vous immerger dans ce monde futur et délicieux. Sachant que les recommandations des auteurs/experts tiennent en deux mots ‘discussion’ et ‘action ‘collective’…. On caricature un peu mais grosso modo comment contraindre un Kim, un Xi, un Vladimir à ne plus être méchant ?

Article crée à partir d’un article du site The Verge.

Similar Posts

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *