Les IA génèrent beaucoup d’attentes, mais aussi une grande peur de l’inconnu.
rejoindre la conversation
Les IA nous font peur et nous rendent curieux à la fois. C’est notre création, mais comme beaucoup d’autres inventions nous ne savons pas jusqu’où ils peuvent aller et s’ils vont nous surprendre en mal. Très récemment, Bill Gates a fait une prédiction sur les métiers qui vont disparaître, tandis qu’OpenAI lui-même, créateur de ChatGPT, a déjà lancé sa propre prédiction sur les métiers qui vont disparaître à cause de la technologie. Ainsi, nous sommes dans un moment d’incertitude maximale dans lequel il y a une réelle peur de ce qui peut arriver. Maintenant, un expert en intelligence artificielle qui a travaillé sur ChatGPT pense que va mourir à cause de l’IA.
L’humanité pourrait être au bord de la destruction et Paul Christiano n’est pas particulièrement optimiste quant aux chances que cela se produise.
Une catastrophe qui pourrait arriver bientôt
Paul Christiano est le directeur du « Alignement Research Center », un centre de recherche qui tente « d’aligner » les intérêts de la future IA avec ceux de l’humanité afin qu’il n’y ait pas de problèmes entre l’un et l’autre. Il a précédemment travaillé pour OpenAI en essayant d’aligner l’IA derrière l’incroyable ChatGPT. Maintenant, il a publié une lettre ouverte dans laquelle il répond à une détracteur de l’IA expliquant quels sont les points sur lesquels vous êtes d’accord et sur lesquels vous ne l’êtes pas.
Ce détracteur était Eliezer Yudkowsky, qui est un ennemi si farouche de l’IA qu’il a le sentiment que les personnes qui s’y opposent sont un peu à la traîne. Cependant, il y a pas mal de points où les deux se mettre d’accorddonc ça fait beaucoup peur depuis nous parlons de l’un des créateurs de ChatGPT.
Bien que Paul Christiano critique l’article de son collègue, assurant qu’il y a des arguments qui ne sont pas tout à fait vrais, il n’est pas non plus optimiste. Parmi ses déclarations il a assuré que :
« Nous avons environ 50 % de chances d’une catastrophe peu de temps après avoir créé des systèmes d’IA au niveau humain. »
Qu’est ce que ça signifie? Qui croit qu’il y a une certaine probabilité qu’une IA prenne propre conscience et est capable de se comporter de la même manière ou plus intelligemment qu’un humain au point de poser un vrai problème pour l’humanité puisqu’elle pourrait nous défier ou essayer de nous achever. Cela ressemble à l’intrigue de Terminator, puisque Skynet était une IA qui a pris conscience de la sienne et a fini par apporter la guerre à l’humanité.
Bien que Christiano pense que ces problèmes nous pouvons gérer et que l’être humain est parfaitement capable de résoudre ces catastrophes, la vérité est qu’il n’est pas très optimiste puisqu’il a également assuré que :
« Il y a une probabilité raisonnable que nous mourrons tous. Je pense que c’est la raison la plus sûre pour laquelle je mourrai personnellement. »
C `est vrai que pas beaucoup de développeurs d’IA Pensez-vous que ce problème va vraiment exister ? Certains s’y préparent, y compris leur ancien patron, qui voyage avec une mallette avec le bouton de panique nucléaire rouge pour désactiver ChatGPT-4 à tout moment dans le cas où il s’écarte définitivement des normes attendues et commence à fonctionner tout seul.
rejoindre la conversation
45secondes est un nouveau média, n’hésitez pas à partager notre article sur les réseaux sociaux afin de nous donner un solide coup de pouce. ?
