noir tony curtis

Vous êtes noir.e.s ? Méfiez-vous des véhicules autonomes

Une étude récemment publiée par des chercheurs du Georgia Institute of Technology suggère que la probabilité pour qu’une personne noire soit heurtée par un Véhicule Autonome est plus importante que pour une personne blanche.

L’étude

Les chercheurs sont partis d’une question simple : comment les modèles de détection des objets/personnes – comme ceux utilisés par les voitures autonomes – détectent-ils les personnes avec des couleurs de peau différentes ? Pour le savoir, ils ont utilisé une banque d’image contenant des piétons qu’ils ont divisé par catégorie grâce à l’échelle de Fitzpatrick (un système pour classer la couleur de la peau d’un individu). Les chercheurs ont ensuite analysé la fréquence à laquelle les modèles ont correctement détecté la présence de personnes dans le groupe à la peau claire et la fréquence à laquelle ils l’ont obtenu avec des personnes dans le groupe à peau foncée.

Le résultat

La détection était de 5% moins précise pour le groupe à peau foncée. Cette disparité persistait même lorsque les chercheurs contrôlaient des variables comme l’heure de la journée dans les images ou la vue occasionnellement obstruée des piétons.

Si les Véhicules Autonomes sont entrainés avec des données qui ne comprennent que des personnes à la peau claire comme ‘exemple’ de ce qui constitue un «humain», ils ne reconnaîtront pas les personnes à la peau foncée comme aussi «humain» dans le monde réel.Ce résultat n’est pas le premier à révéler un biais lié à la couleur de la peau. En 2015, le système de reconnaissance d’image de Google a catégorisé des afro-américains comme “gorilles.”En 2018, une autre étude a constaté que trois systèmes de reconnaissance faciale — IBM, Microsoft et Megvii (Chine) — étaient plus susceptibles de mal identifier le genre des personnes à la peau foncée (en particulier les femmes) que des personnes à la peau claire (taux de succès de la reconnaissance : 99% pour un homme blanc, 35% pour une femme noire).

Pour aller un peu plus loin

L’identification des piétons est l’un des problèmes que devront traiter les Véhicules Autonomes avant qu’ils ne puissent être qualifiés de réellement autonomes. Les défis sont entre autres :  interférences entre un piéton et des objets ou d’autres piétons, diversité des vêtements portés (couleurs, formes, matériaux), variabilité des conditions d’éclairage.

En 1975 Thomas B. Fitzpatrick  a créé une échelle des types de peau conçue pour prédire la prédisposition d’une personne à ‘brûler’ lorsqu’elle est exposée aux rayons Ultra-Violets en prenant en compte la peau, les yeux et la couleur des cheveux, ainsi que l’existence de taches de rousseur, de brûlures ou de bronzage. En règle générale, les catégories 1-3 correspondent à des tonalités de peau plus légères que 4-6.


0

Nous rejoindre