Yahoo Finance Incapable de supprimer les biais racistes, Google Photos ne reconnait toujours pas les singes
Huit ans après la découverte d’un biais raciste dans l’application Photos de Google, le problème n’a toujours pas été résolu. Pour que son IA ne se trompe pas, Google n’identifie simplement pas les gorilles et autres singes.
Cet article est extrait de la newsletter #Règle30, qui est envoyée tous les mercredis à 11h.
Pour s’inscrire gratuitement pour la recevoir, c’est par ici.
En 2015, Google dévoilait Photos, une nouvelle application capable non seulement de stocker les clichés de ses utilisateurs et utilisatrices, mais aussi de les trier en fonction de différents éléments : le lieu, les visages des personnes présentes, leurs actions. En une pression du doigt, on pouvait retrouver les photos de notre fête d’anniversaire, de notre voyage au Japon, de notre chat ou de notre meilleur·e ami·e. Cela paraît un peu banal aujourd’hui, mais c’était très impressionnant pour l’époque. Sauf que quelques mois après la sortie du logiciel, un développeur américain a fait une très mauvaise découverte. Jacky Alciné, un homme noir, souhaitait consulter des photos de lui et son amie. Il a réalisé que Google Photos les avait identifiés comme des gorilles.
Cette histoire est devenue l’un des premiers exemples médiatisés des biais des algorithmes, un sujet alors encore mal connu du grand public. Google s’est évidemment excusé. Il a suspendu la catégorie « gorilles » dans l’application, puis a promis de vite régler le problème,
Crédits photos de l'image de une : Un chimpanzé au Kenya en 2019 // Source : Flickr/CC/Ray in Manila
