in

Les bots AI de modération de contenu de Twitter continuent de confondre les fusées avec les organes génitaux masculins

Après avoir licencié la plupart des employés ainsi que les sous-traitants qui ont modéré le contenu sur Twitter, Elon Musk a demandé à son équipe de s’appuyer fortement sur des robots IA pour faire le travail. À la suite de cela, plusieurs photos et tweets normaux ont été supprimés ou ont vu leur portée restreinte, accidentellement. Cependant, une conséquence hilarante de Twitter utilisant des robots IA pour modérer le contenu n’est apparue que récemment.

Les bots AI de modération de contenu de Twitter continuent de confondre les fusées avec les organes génitaux masculins

Les robots IA de modération de contenu de Twitter ont été codés de telle sorte qu’ils peuvent supprimer une publication ou même suspendre un compte s’ils sont certains à 95 % qu’une publication a enfreint les règles de la plateforme.

S’adressant à Quartz, un ancien employé de Twitter qui a récemment quitté l’entreprise, a révélé que les bots AI que Twitter utilise, ne cesse de confondre les photos de roquettes avec celle des organes génitaux masculins. De plus, les comptes qui publiaient des photos de roquettes ont été suspendus de la plate-forme.

Par exemple, Spaceflight Now et l’utilisateur Michael Baylor, qui lancent tous deux des flux en direct pour la NASA, ont tous été bloqués sur leurs comptes après avoir publié du contenu sur un lancement de SpaceX mardi. De même, Starbase Watcher, qui suit l’activité dans les installations de SpaceX au Texas, a également été verrouillé.

De même, le photographe Spaceflight John Kraus a déclaré que son compte avait également été suspendu après avoir partagé une vidéo du lancement d’Artemis I de la NASA. Les quatre comptes ont depuis été déverrouillés.

En réponse à un tweet du collègue de Baylor concernant la suspension de son compte, Musk a répondu « il semble que notre reconnaissance d’image ait besoin d’être retravaillée! »

Quartz a interviewé un ex-employé anonyme qui travaillait sur les systèmes de modération de contenu de Twitter. Ils ont déclaré au point de vente que les outils étaient connus pour identifier à tort les images appropriées pour le contenu pornographique. Cela pourrait inclure, par exemple, une photo de pédicure qui contient beaucoup de pixels de couleur chair.

Les bots AI ont été codés de manière à pouvoir supprimer une publication ou même suspendre un compte, s’ils sont sûrs à 95 % qu’une publication a enfreint les règles de la plateforme,

Musk et son équipe réprimant le porno sur la plateforme est sans aucun doute une bonne chose. Mais comme c’est le cas pour tout ce que Muks a fait avec Twitter depuis sa prise de fonction, l’exécution a été un désastre.

Si Twitter veut vraiment moins s’appuyer sur des modérateurs humains, il devrait réduire les seuils de précision des robots IA et des outils d’apprentissage automatique qu’il utilise pour distinguer le contenu sensible, afin de ne pas signaler chaque publication comme inappropriée.

45secondes est un nouveau média, n’hésitez pas à partager notre article sur les réseaux sociaux afin de nous donner un solide coup de pouce. ?