dans

YouTube bloque sa vidéo car elle parle de « blancs » et de « noirs », mais il jouait aux échecs

Le plateformes sociales ont maintenant un énorme problème avec les menaces, discours de haine et insultes raciales ou religieuses: modérer ce contenu pour éviter qu’il ne nuise aux utilisateurs est impossible pour le vrai personnel, mais les algorithmes utilisés pour faire l’essentiel du travail ne sont pas parfaits. Une manifestation provient d’un cas de censure involontaire survenu l’année dernière le Youtube, lorsque les algorithmes sociaux ont supprimé la vidéo d’un jeu d’échecs sans raison apparente. Une recherche publiée ces derniers jours par l’Université Carnegie Mellon a révélé que la base de la décision pourrait être le fait que l’intelligence artificielle qui modère les vidéos sur YouTube ne sait pas qui parle de «blancs» et de «noirs» comme des morceaux du puits – stratégie de jeu connue par des personnes qui utilisent les termes comme catégories opposées dans le discours de haine.

La vidéo incriminée remonte à juin de l’année dernière et provient d’un joueur d’échecs bien connu sur YouTube: Le joueur croate Antonio Radić, connu sur la plateforme sous le nom d’Agadmator. Outre le fait que la chaîne elle-même compte environ un million de followers, dans le clip apparaît une véritable célébrité du secteur: le grand maître Hikaru Nakamura. Quelques heures après la mise en ligne du contenu, YouTube l’a supprimé et a également bloqué l’ensemble de la chaîne pendant environ 24 heures, pour avoir publié du contenu «nuisible et dangereux». La mesure a été annulée en peu de temps, mais YouTube n’a jamais fourni d’explications sur ce qui s’est passé.

Des chercheurs de l’Université Carnegie Mellon ont tenté de donner l’explication tester certains logiciels qui sont normalement utilisés pour détecter les discours de haine dans les documents publiés en ligne. Les chercheurs ont analysé plus de 680 000 commentaires recueillis sur cinq chaînes YouTube sur le thème des échecs; de tous les commentaires qu’un ou plusieurs logiciels ont classés comme discours de haine, ils ont recueilli un échantillon de 1 000 à analyser manuellement.

A lire :  MacBook Air M1 contre MacBook Air avec puce Intel: lequel acheter?

Ce qui est ressorti, c’est que le82 pour cent des commentaires rapportés par l’intelligence artificielle en fait il ne contenait aucune référence haine: les systèmes d’analyse – est la conclusion de l’expérience – semblent avoir été activés par diverses combinaisons de mots-clés tels que «blanc», «noir», «attaque» et «menace». YouTube ne divulgue pas si et quels algorithmes il utilise pour intercepter la haine raciale et les menaces sur sa plate-forme, mais l’explication fournie remet toujours en question le fonctionnement général des systèmes automatisés que nous prenons pour infaillibles: sans comprendre le contexte et pourrait modérer des conversations légitimes pour excès de zèle ou abandon de phénomènes dangereux et dûment masqués.

45secondes est un nouveau média, n’hésitez pas à partager notre article sur les réseaux sociaux afin de nous donner un solide coup de pouce. 🙂

  • Champagne et Bulles Champagne Grand Cru Blanc de Noirs - Thierry Houry
    Champagne - Blanc de Noirs - 75cl Cépage : 100% Pinot noir Caractéristiques : La cuvée Blanc de Noirs révèle parfaitement l'expression d'un terroir à travers un cépage. Les dols vallonnés des coteaux d'Ambonnay offrent des conditions optimales à l'épanouissement du Pinot Noir. Il exprime ainsi toute sa
  • Alcatel Baby Link 710 Babyphone Vidéo Blanc
    Alcatel Baby Link 510 Babyphone Vidéo Blanc est l'appareil idéal pour rassurer les parents : doté d'une vidéo orientable et d'un écran plant Alcatel, il permet d'entendre la voix de bébé et de lui parler. Ses caractéristiques : Ecran couleur HD 2.4, Vision nocturne automatique, Minuteurs programmable,
  • Happy Garden Salon de jardin FIRENZE extensible en textilène gris 8 places - aluminium blanc
    Description : Le salon de jardin FIRENZE est non seulement très moderne avec son design épuré et ses couleurs chics mais il est aussi très pratique grâce à sa table extensible qui passe d'une longueur de 180 à 240cm vous permettant ainsi d'accueillir 2 convives supplémentaires. La forme élégante de ce salon