Votre prochain robot sexuel pourrait vous tuer : le débat moral sur la direction que l’industrie a prise

RealDoll et sa société sœur, Realbotix, sont le fer de lance de l’industrie des poupées sexuelles (et des poupées), des sociétés dirigées par Matt McMullen qui font tout leur possible pour nous faire réaliser nos fantasmes sur des entités humanoïdes aussi similaires que possible à un être humain. . Depuis 2018, ses modèles les plus avancés disposent d’une intelligence artificielle qui apprend de nos stimuli, se connecte via bluetooth et est gérée par des applications afin que vous pouvez demander à votre gadget de vous dire qu’il vous aime avec un accent écossais.

Pour le moment, dans les modèles commercialisés, seule la tête est mécanisée (elle peut aspirer, cligner des yeux et tourner le cou de la belle chose), mais maintenant ils ont été mis avec la programmation des mains et des bras. Ils pensent que dans cinq ans ce sera prêt, et ils devront se dépêcher car les concurrents sont déjà partis : Cloud Climax est sur leurs talons.

En 2017, le PDG de Space X et de Tesla, Elon Musk, a déclaré que l’intelligence artificielle avancée était notre plus grand risque d’entrer dans la Troisième Guerre mondiale, et a inclus les robots sexuels comme l’une des principales sources de menace. Les médias spéculent depuis, de manière plus abstraite que tangible, sur cette possibilité, et cette semaine le débat est revenu sur le devant de la scène grâce aux déclarations d’un docteur en cybersécurité, Nick Patterson, pour le journal anglais Daily Star.

Pour le professeur, « pirater un robot sexuel pourrait être encore plus facile que d’accéder à l’ordinateur portable ou au téléphone portable de quelqu’un ». Il a averti qu’un agresseur pourrait prendre le contrôle à distance de ses bras et de ses jambes, qui sait s’il faut prendre un couteau, une possibilité qui ne peut pas être prise à la légère étant donné qu’il existe des poupées pesant jusqu’à 100 kilos sur le marché (bien que la moyenne soit plus proche de 45-50). Charlatanisme sensationnel, blague sur les réseaux sociaux ou peur légitime ?

Ce n’est pas une question de « si », c’est une question de « quand »

Romain Ramírez (@patowc) fait partie de ceux du premier groupe. Pour cet expert en sécurité et co-organisateur de l’un des salons les plus importants de l’industrie au monde, le sujet est « très sérieux » et il faut « être ambitieux » quand il s’agit de penser la gravité problèmes de cybersécurité. « Si vous ne voyez toujours pas trop de cas de piratage de ces machines, c’est parce que la technologie sexuelle n’est pas encore suffisamment évoluée et qu’elle n’a pas une grande implantation dans la population. La démocratisation est dans quelques années, et quand cela arrivera, la criminalité augmentera. Regardez, il existe déjà des bandeaux avec des électrodes à ondes cérébrales avec lesquelles je peux manipuler des drones rien qu’en y pensant et cette technologie est vieille, elle a huit ans ».

Au moment où il y a un robot contrôlable à distance, nous disent-ils, il faut accepter qu’un adversaire puisse le contrôler, et c’est pourquoi « plus on veut donner de polyvalence au poignet, plus le risque. ».

César Cerrudo (@cesarcer), expert en cybersécurité et chercheur en robotique et sécurité IoT, est plus prudent face à la situation actuelle : « nous devons faire attention au matériel que nous achetons. Un attaquant peut toujours exploiter au maximum les fonctionnalités dans les limites physiques de fabrication du robot. Si l’appareil peut aspirer et serrer, si la tête peut pivoter à 360 degrés et peut également tourner à grande vitesse, cela pourrait dans certains cas nuire à ce qui l’entoure », explique-t-il, mais ne va pas plus loin. D’après ce que l’on a pu voir, rien à redire à faire l’Ex Machina… Du moins pour l’instant (ci-dessous, la dernière mise à jour de la technologie McMullen du premier trimestre 2021).

Mais vous pouvez faire des choses plus modestes. La poupée, si elle est accessible à distance (et on a déjà vu que certaines, comme RealDoll elle-même), peut être bloqué et inutile de plusieurs de ses fonctions pour ses propriétaires. Et, si à l’avenir les fabricants décident de mettre des caméras sur eux pour améliorer cette expérience avec l’apprentissage automatique ou pour que l’utilisateur puisse profiter de ces fichiers plus tard, les vidéos pourraient être usurpées par un criminel qui les a piratées.

Dit plus clairement, rien ne doit laisser penser que ces petits électroménagers vont éviter ce qui est arrivé à d’autres plus quotidiens et dont les cas les plus bizarres se sont révélés, comme les poupées Barbie qui ont commencé à proférer des menaces de mort ou la cafetière qui refuse de vous donner du café et vous crache de l’eau bouillante. Selon une étude récente publiée par la société de sécurité Gemalto, seuls 9 % environ des ressources des produits de l’Internet des objets sont investis dans la sécurité, donc de toutes les données cryptées dans un pays comme le Royaume-Uni. seulement 52% d’entre eux étaient cryptés.

Bien qu’il y ait une différence : les poupées, étant des objets couverts de stigmatisation, pourraient rendre plus difficile pour les victimes de parler aux autorités après avoir subi un chantage.

Solutions?

Si vous êtes déterminé à vous procurer un de ces produits, il y en a deux très simples : le premier, essayez de ne pas avoir de connexion. « Il existe différents types de mise en œuvre de l’apprentissage automatique », explique Ramírez. « Vous pouvez faire des choses entraînées dans le cloud, oui, mais il existe également des outils d’apprentissage, comme TensorFlow, qui vous permettent fonctionnent localement et sont enregistrés sur une puce. Il y aura donc des jouets de ce type avec l’option d’expérience avec l’IA qui n’ont pas forcément de connexion au cloud ». Mieux vaut toujours rechercher ceux qui ne vous obligent pas à intervenir avec des applications.

Et l’autre et encore plus compliqué, cherchez ceux dont les fabricants autorisent les audits externes des entreprises de certification spécialisée dans la sécurité. « Mais je vous avais déjà prévenu, la majorité des entreprises ne veulent pas aller sur ces sites car cela va à l’encontre des intérêts commerciaux », prévient Ramírez, ce avec quoi Cerrudo est clairement d’accord : « la plupart des fabricants de maisons qui ne le font pas. Ils ont été faisant de la technologie pendant de nombreuses années, pour gagner du marché et devancer la concurrence, ils offrent leurs produits aussi rapidement que possible, ce qui conduit à très peu ou pas d’examen de sécurité. C’est alors qu’ils n’achètent pas directement cette technologie développée par des tiers, qui peuvent également être inexpérimentés. Ce sont des pratiques très répandues ».

Nous devrons attendre qu’Amazon, Microsoft ou Apple sortent leur version de vérification et de cryptage en cinq étapes de notre garçon explosif.