dans

YouTube bloque sa vidéo car elle parle de « blancs » et de « noirs », mais il jouait aux échecs

Le plateformes sociales ont maintenant un énorme problème avec les menaces, discours de haine et insultes raciales ou religieuses: modérer ce contenu pour éviter qu’il ne nuise aux utilisateurs est impossible pour le vrai personnel, mais les algorithmes utilisés pour faire l’essentiel du travail ne sont pas parfaits. Une manifestation provient d’un cas de censure involontaire survenu l’année dernière le Youtube, lorsque les algorithmes sociaux ont supprimé la vidéo d’un jeu d’échecs sans raison apparente. Une recherche publiée ces derniers jours par l’Université Carnegie Mellon a révélé que la base de la décision pourrait être le fait que l’intelligence artificielle qui modère les vidéos sur YouTube ne sait pas qui parle de «blancs» et de «noirs» comme des morceaux du puits – stratégie de jeu connue par des personnes qui utilisent les termes comme catégories opposées dans le discours de haine.

La vidéo incriminée remonte à juin de l’année dernière et provient d’un joueur d’échecs bien connu sur YouTube: Le joueur croate Antonio Radić, connu sur la plateforme sous le nom d’Agadmator. Outre le fait que la chaîne elle-même compte environ un million de followers, dans le clip apparaît une véritable célébrité du secteur: le grand maître Hikaru Nakamura. Quelques heures après la mise en ligne du contenu, YouTube l’a supprimé et a également bloqué l’ensemble de la chaîne pendant environ 24 heures, pour avoir publié du contenu «nuisible et dangereux». La mesure a été annulée en peu de temps, mais YouTube n’a jamais fourni d’explications sur ce qui s’est passé.

Des chercheurs de l’Université Carnegie Mellon ont tenté de donner l’explication tester certains logiciels qui sont normalement utilisés pour détecter les discours de haine dans les documents publiés en ligne. Les chercheurs ont analysé plus de 680 000 commentaires recueillis sur cinq chaînes YouTube sur le thème des échecs; de tous les commentaires qu’un ou plusieurs logiciels ont classés comme discours de haine, ils ont recueilli un échantillon de 1 000 à analyser manuellement.

Ce qui est ressorti, c’est que le82 pour cent des commentaires rapportés par l’intelligence artificielle en fait il ne contenait aucune référence haine: les systèmes d’analyse – est la conclusion de l’expérience – semblent avoir été activés par diverses combinaisons de mots-clés tels que «blanc», «noir», «attaque» et «menace». YouTube ne divulgue pas si et quels algorithmes il utilise pour intercepter la haine raciale et les menaces sur sa plate-forme, mais l’explication fournie remet toujours en question le fonctionnement général des systèmes automatisés que nous prenons pour infaillibles: sans comprendre le contexte et pourrait modérer des conversations légitimes pour excès de zèle ou abandon de phénomènes dangereux et dûment masqués.

45secondes est un nouveau média, n’hésitez pas à partager notre article sur les réseaux sociaux afin de nous donner un solide coup de pouce. 🙂

  • Bticino kit portier vidéo couleur classe 100 écran 5 pouces et boucle inductive blanc 364618
    Ce kit interphone vidéo couleur complet est idéale pour un contrôle d'accès de votre habitation mais aussi pour des établissements recevant du public puisqu'il répond aux besoins d'accessibilité des personnes en situation de handicap. Kit audio-vidéo couleur mains-libres Kit Classe 100 Basique Comprend : - 1 platine de rue Linea 2000 avec porte étiquette lumineux - 1 poste intérieur avec écran 5" Classe 100 réf BT344662 équipé d'une boucle inductive compatible avec les prothèses auditives en position T - 1 relais d'ouverture de porte réf. 346250 pour contact sec NO/NF (2 A maxi) - 1 alimentation BUS 2 fils avec adaptateur vidéo intégré réf. BT346050, 6 modules DIN
  • Alcatel Baby Link 710 Babyphone Vidéo Blanc
    Alcatel Baby Link 510 Babyphone Vidéo Blanc est l'appareil idéal pour rassurer les parents : doté d'une vidéo orientable et d'un écran plant Alcatel, il permet d'entendre la voix de bébé et de lui parler. Ses caractéristiques : Ecran couleur HD 2.4, Vision nocturne automatique, Minuteurs programmable, Fonction musicale intégrée.
  • BTICINO Kit résidentiel vidéo couleur classe 300v13m avec badge bticino 363611
    Le kit interphone vidéo BT363611 avec contrôle d'accès intégré à mémoire d'image permet de sécuriser votre habitation mais aussi un établissement recevant du public car il est adapté aux besoins d'accessibilité des personnes handicapés. Le kit interphone vidéo couleur à mémoire d'images BT363611 est vendu complet prêt à être installé pour sécuriser l'accès à votre maison. Il est aussi adapté aux établissements recevant du public. Le kit interphone vidéo Classe 300 V13M dispose d'une mémoire d'image et d'un accès contrôlé par badge. •Fonctionnalité avec le kit vidéo• Contrôle d'accès par badges Mémoire vidéo Messages entre postes •Contenu du kit vidéo• 1 platine de rue 1 poste intérieur 8 badges de proximité 1 relais d'ouverture de porte 1 alimentation BUS 2 fils 1 adaptateur vidéo