Les utilisateurs noirs d'Instagram ont 50% plus de risques d'être bannis automatiquement que les blancs
Mais après avoir fait part de leurs conclusions à leurs supérieurs, les employés auraient reçu l'ordre d'arrêter d'enquêter sur ces éventuels préjugés raciaux inclus dans ces outils. Selon NBC News, Instagram a par la suite mis en place une version légèrement différente de l'outil de modération automatique, mais les employés n'ont pas été autorisés à faire des recherches sur ce dernier.
En réponse à cette information, Facebook n'a pas nié que ces employés ont reçu l'ordre d'arrêter d'enquêter sur les éventuels préjugés raciaux liés aux outils, mais a déclaré qu'ils utilisaient eux-même une méthodologie défectueuse. L'entreprise a ajouté qu'elle étudiait actuellement la meilleure façon de tester ses produits pour détecter des préjugés raciaux.
"Nous étudions activement comment mesurer et analyser nos produits selon des critères raciaux et ethniques de manière responsable et en partenariat avec d'autres entreprises", a déclaré la porte-parole de Facebook, Carolyn Glanville, dans un communiqué.
Cette publication survient alors que Facebook fait l'objet d'une surveillance accrue sur sa gestion des questions liées aux discours haineux et aux préjugés raciaux. La société s'est efforcée de développer des politiques de modération de contenu capables de distinguer les messages critiquant des groupes démographiques comme les hommes et les blancs de ceux critiquant des groupes opprimés, rapportait Vanity Fair l'année dernière.
Facebook s'est fixé des objectifs ambitieux pour améliorer la diversité raciale et sexuelle de son personnel. Un rapport sur la diversité publié le mois dernier a montre que l'entreprise progresse vers ces objectifs, mais que de nombreux segments de l'entreprise — en particulier les rôles techniques et les cadres supérieurs —restent disproportionnellement blancs et masculins.
Des employés ont critiqué l'entreprise pour avoir minimisé les préjugés raciaux potentiels de ses réseaux sociaux : "J'ai vu des gens devenir fous parce que la direction les ignorait et nous
(...) Cliquez ici pour voir la suite
La moisissure de Tchernobyl pourrait protéger les astronautes des radiations dans l'espace
Donald Trump estime que les 'Tendances' sur Twitter sont 'illégales' car elles donnent une mauvaise image de lui
Thomas Pesquet s'envolera en 2021 à bord de la Crew Dragon de SpaceX
Voici comment fonctionnera le vaccin contre le coronavirus de Moderna, qui vient d'entamer sa phase finale
Voici les 5 produits que Samsung devrait présenter lors de sa conférence Galaxy Unpacked