Yahoo FinanceLaurence Devillers, pour une éthique de l'intelligence artificielle
Casser les stéréotypes, apprendre aux machines à entendre les nuances de la parole, faire entrer l’éthique dans la conception des intelligences artificielles. Ces thématiques sont au cœur des recherches de Laurence Devillers, professeure en Intelligence artificielle à Sorbonne Université. Elle est l'une des invitées de la matinale de RFI, ce lundi 8 mars, à l'occasion de la Journée internationale des droits des femmes qui met à l'honneur les femmes scientifiques.
D’un côté les machines, les Intelligences artificielles, de l’autre la richesse et la subtilité de la parole, de la voix dont la prosodie raconte la culture, l’âge, les émotions ou la santé. Ce sont les deux thématiques que Laurence Devillers conjugue depuis sa thèse en informatique sur la reconnaissance de la parole en 1992. La scientifique a été l’une des premières à travailler sur l’informatique affective, l’étude et le développement de systèmes ayant la capacité de reconnaître, d’exprimer et modéliser les émotions humaines.
Technophile, l’intérêt de Laurence Devillers, au croisement de la linguistique et de la robotique, l’a amené à s’interroger sur la dimension éthique des machines avec lesquelles nous interagissons et à créer la chaire Human-Machine Affective Interaction & Ethics, au LIMSI – le laboratoire d’informatique pour la mécanique et les sciences de l’ingénieur du CNRS.
L’éthique des robots
Les machines développées pour interagir avec les humains, comme outil de surveillance en santé, par exemple, ne prennent pas en compte la diversité des publics, ni la richesse des émotions qui pondèrent le discours : « Ces machines sont dramatiquement simples (…) aujourd’hui, on fait des systèmes très standardisés, on joue aux apprentis-sorciers » répond Laurence Devillers.
Ces machines reflètent aussi les stéréotypes de leurs concepteurs : en deep learning – l’apprentissage automatique des Intelligences artificielles - 80% des codeurs sont des hommes, mais 80% des agents conversationnels ont des voix féminines (Alexa, Siri…). Laurence Devillers interroge : « Si tous ces objets qui sont à nos ordres 24h/24 sont représentés par des femmes, si tous les robots sexuels sont féminisés, qu’est-ce que ça veut dire sur la représentation des femmes sachant qu’elle sont très peu nombreuses dans cette recherche et dans ces entreprises ? »
Le rôle des chercheurs: être vigilants
Laurence Devillers s’intéresse au « nudge » - méthode développée pour influencer l’individu par suggestions indirectes, plus efficaces que la contrainte*. Or derrière les Google Home et autres objets connectés : « il y a une idée de manipulation (…) à travers ces machines, on peut amplifier ce phénomène » déclare-t-elle. Et ses expériences ont montré que, dans le cadre d’un jeu destiné à mesurer l’altruisme, les enfants changent plus facilement d’avis sous l’influence d’un robot.
Pour Laurence Devillers, les concepteurs doivent penser aux effets à long terme, « il y a un vrai risque sur ces machines si elles ne sont pas contrôlées dès la conception, le corpus doit être équilibré, avoir autant d’hommes que de femmes, notamment ».
Il faut, dit-elle, construire une éthique en continu, au fur et à mesure de l’apprentissage, contrôler les données et évaluer le comportement des systèmes : « notre rôle de chercheurs et chercheuses, c’est d’être vigilants (…) se demander à quoi ça va servir ».
D’où la participation de la chercheuse à plusieurs comités d’éthique français et internationaux, pour l’élaboration d’IA durables, transparentes, centrées sur des valeurs humaines.
* Par exemple : au moment de réserver une chambre d’hôtel via internet, la mention « 10 autres personnes sont en train de consulter l’annonce » pousse à réserver la chambre sans attendre.
► En savoir plus
► Publications de Laurence Devillers
Les robots émotionnels, Santé, surveillance, sexualité... : et l'éthique dans tout ça ? / 2020 / éditions de l’Observatoire
Intelligence artificielle, enquête sur des technologies qui changent nos vies / 2018 / éditions Flammarion
Des robots et des hommes / 2017 / éditions Plon
