Marchés français ouverture 3 h 43 min
  • Dow Jones

    34 035,99
    +305,10 (+0,90 %)
     
  • Nasdaq

    14 038,76
    +180,92 (+1,31 %)
     
  • Nikkei 225

    29 682,66
    +39,97 (+0,13 %)
     
  • EUR/USD

    1,1959
    -0,0017 (-0,14 %)
     
  • HANG SENG

    28 785,42
    -7,72 (-0,03 %)
     
  • BTC-EUR

    52 711,66
    -192,79 (-0,36 %)
     
  • CMC Crypto 200

    1 396,53
    +15,58 (+1,13 %)
     
  • S&P 500

    4 170,42
    +45,76 (+1,11 %)
     

Laurence Devillers, pour une éthique de l'intelligence artificielle

·3 min de lecture

Casser les stéréotypes, apprendre aux machines à entendre les nuances de la parole, faire entrer l’éthique dans la conception des intelligences artificielles. Ces thématiques sont au cœur des recherches de Laurence Devillers, professeure en Intelligence artificielle à Sorbonne Université. Elle est l'une des invitées de la matinale de RFI, ce lundi 8 mars, à l'occasion de la Journée internationale des droits des femmes qui met à l'honneur les femmes scientifiques.

D’un côté les machines, les Intelligences artificielles, de l’autre la richesse et la subtilité de la parole, de la voix dont la prosodie raconte la culture, l’âge, les émotions ou la santé. Ce sont les deux thématiques que Laurence Devillers conjugue depuis sa thèse en informatique sur la reconnaissance de la parole en 1992. La scientifique a été l’une des premières à travailler sur l’informatique affective, l’étude et le développement de systèmes ayant la capacité de reconnaître, d’exprimer et modéliser les émotions humaines.

Technophile, l’intérêt de Laurence Devillers, au croisement de la linguistique et de la robotique, l’a amené à s’interroger sur la dimension éthique des machines avec lesquelles nous interagissons et à créer la chaire Human-Machine Affective Interaction & Ethics, au LIMSI – le laboratoire d’informatique pour la mécanique et les sciences de l’ingénieur du CNRS.

L’éthique des robots

Les machines développées pour interagir avec les humains, comme outil de surveillance en santé, par exemple, ne prennent pas en compte la diversité des publics, ni la richesse des émotions qui pondèrent le discours : « Ces machines sont dramatiquement simples (…) aujourd’hui, on fait des systèmes très standardisés, on joue aux apprentis-sorciers » répond Laurence Devillers.

Ces machines reflètent aussi les stéréotypes de leurs concepteurs : en deep learning – l’apprentissage automatique des Intelligences artificielles - 80% des codeurs sont des hommes, mais 80% des agents conversationnels ont des voix féminines (Alexa, Siri…). Laurence Devillers interroge : « Si tous ces objets qui sont à nos ordres 24h/24 sont représentés par des femmes, si tous les robots sexuels sont féminisés, qu’est-ce que ça veut dire sur la représentation des femmes sachant qu’elle sont très peu nombreuses dans cette recherche et dans ces entreprises ? »

Le rôle des chercheurs: être vigilants

Laurence Devillers s’intéresse au « nudge » - méthode développée pour influencer l’individu par suggestions indirectes, plus efficaces que la contrainte*. Or derrière les Google Home et autres objets connectés : « il y a une idée de manipulation (…) à travers ces machines, on peut amplifier ce phénomène » déclare-t-elle. Et ses expériences ont montré que, dans le cadre d’un jeu destiné à mesurer l’altruisme, les enfants changent plus facilement d’avis sous l’influence d’un robot.

Pour Laurence Devillers, les concepteurs doivent penser aux effets à long terme, « il y a un vrai risque sur ces machines si elles ne sont pas contrôlées dès la conception, le corpus doit être équilibré, avoir autant d’hommes que de femmes, notamment ».

Il faut, dit-elle, construire une éthique en continu, au fur et à mesure de l’apprentissage, contrôler les données et évaluer le comportement des systèmes : « notre rôle de chercheurs et chercheuses, c’est d’être vigilants (…) se demander à quoi ça va servir ».

D’où la participation de la chercheuse à plusieurs comités d’éthique français et internationaux, pour l’élaboration d’IA durables, transparentes, centrées sur des valeurs humaines.

* Par exemple : au moment de réserver une chambre d’hôtel via internet, la mention « 10 autres personnes sont en train de consulter l’annonce » pousse à réserver la chambre sans attendre.

► En savoir plus

Publications de Laurence Devillers

  • Les robots émotionnels, Santé, surveillance, sexualité... : et l'éthique dans tout ça ? / 2020 / éditions de l’Observatoire

  • Intelligence artificielle, enquête sur des technologies qui changent nos vies / 2018 / éditions Flammarion

  • Des robots et des hommes / 2017 / éditions Plon