Home » Le portrait du mois dans Smart Tech : Daphné Marnat, CEO d’Unbias-ia

Le portrait du mois dans Smart Tech : Daphné Marnat, CEO d’Unbias-ia

Tous les mois, Olivia Strigari co-fondatrice d'Informelles.media, présentera le portrait d'une femme de la tech dans l'émission de Delphine Sabattier, Smart Tech, sur la nouvelle chaîne B-Smart. Ce mois-ci, Daphné Marnat, CEO de Unbias-ia, la nouvelle solution de deep learning qui combat les biais sexistes des IA.

Sommaire

      • Daphné Marnat, une anthropologue au service des études marketing
      • Daphné, serial entrepreneuse
      • Rendre l’intelligence artificielle plus éthique
      • L’avenir du langage automatisé

Cliquez sur l’image pour retrouver l’intégralité de la chronique diffusée le 25 août dans Smart Tech.

Pour ce premier portrait de femme dans la tech, dans l’émission de Delphine Sabattier, Smart Tech, j’ai envie de vous parler de Daphné Marnat, anthropologue au parcours atypique et créatrice d’entreprise, et de sa toute dernière boîte qui s’appelle Unbias-ia, lancée en mars dernier. Basée à Sophia Antipolis, près de Nice, dans l’incubateur Telecom Paris Eurecom, Unbias-ia est une entreprise dont la vocation est de réduire l’intensité des biais sexistes dans le langage des intelligences artificielles. (Pour info, c’est la seule entreprise incubée chez Telecom actuellement, dirigée par une femme.)

Daphné Marnat, une anthropologue au service des études marketing

Après des débuts académiques en anthropologie appliquée à l’université de Paris Descartes. qui vont être vite écourtés car sa thèse de doctorat sur la marque Lego va être refusée par sa faculté, à l’époque le mix entreprise privée et université ne fait pas bon ménage.Daphné se met à chercher du boulot. Elle commence sa carrière par hasard dans une agence de communication, Innovacorp, séduite par son profil d’anthropologue à la science appliquée, concrète, très utile pour les études marketing qu’elle va suivre et la gestion de projets qu’elle va porter pendant 5 ans. Une agence où, vu son énergie débordante, Daphné est vite sur le devant de la scène, mais qu’elle quitte dès qu’on la met en posture de manager client et agence. Elle a 30 ans et un fils de 3 ans.

Daphné, serial entrepreneuse

Elle décide de devenir indépendante car elle “en a marre de ne plus voir son fils” nous dit-elle lors d’une interview. Sous le régime d’auto entrepreneur, d’abord, puis via sa première entreprise Twisting qu’elle fonde en 2012, Daphné continue à appliquer les principes de la recherche anthropologique aux études qualitatives et se lance dans le design thinking et l’accompagnement en innovation pour des grandes entreprises avec des team d’ingénieurs tech où on l’interroge sur l’utilisateur final. C’est là que les implications et les interactions  entre l’humain, sujet central de sa discipline, et les machines trouvent leur raison d’être.
Vous allez me demander pourquoi je vous parle de tout cela, avant de vous expliquer concrètement ce que fait Unbias?
Par ses différentes missions via Twisting, Daphné se confronte à la technologie en tant qu’anthropologue.  Et  qu’elle découvre, de fil en aiguille, les biais dans l’intelligence artificielle, notamment ceux du sexisme ordinaire, que l’on ne repère pas au premier coup d’œil, mais qui vont s’amplifier à démesure à cause de leur reproduction massive.

Les biais du sexisme ordinaire dans les algorithmes

Les intelligences artificielles, que l’on appelle communément IA, traitent des données qu’elles n’analysent pas forcément elle-même. Ces technologies apprennent grâce aux exemples, qu’elles reproduisent, ainsi que le langage appris au fur et à mesure de ces apprentissages. Si certains biais de genre sont utilisés, elles vont donc les reproduire à très large échelle, de l’ordre de milliards, ce qui va engendrer encore plus de biais de langage sexistes. Unbias, via sa technologie de pointe, va intercepter les éléments de langage pour les transformer de façon plus neutre.

Aujourd’hui, dans nos interactions digitales courantes, on va avoir à faire avec des chatbots, des robots, des algorithmes, des prédictions par exemple. Et on va, sans  vraiment s’en rendre compte, faire face à des biais de genre. Le robot de l’Insee ou du service des impôts va vous demander “Qui est le chef de famille?”, implicitement un homme, sans tenir compte de la cheffe de famille mono ou homo-parentale. Dans les prédictions de mutuelle, de banque ou de RH, l’algorithme ne va pas accorder le même niveau de crédit, de poste ou de compétences à un homme qu’à une femme. Comme dans une entreprise on parlera de “l’ensemble des collaborateurs”, à première vue on n’y voit aucun mal. Mais dans l’imaginaire, c’est implicitement un ensemble d’hommes blancs. Daphné nous cite un autre exemple cocasse : “J’ai rdv à la banque. Associée à 51% et PDG d’Unbias, j’ai tous les pouvoirs et la machine sort tous les papiers au nom de mon associé masculin.
Daphné nous explique que “pris individuellement ce n’est pas si grave, mais c’est la masse qui est inquiétante”.  Quand vous êtes en permanence confrontés à des textes où le masculin fait référence, cela crée des réflexes et on va finir par attribuer des compétences ou des qualités à un genre plutôt qu’à un autre.
Évidemment « ces biais de sexisme ordinaire ne sont pas créés par l’algorithme mais il les reprend de façon tellement extensive qu’ils en deviennent systémiques et très difficiles à détricoter car ils sont dans tous les processus » ajoute-t-elle. Néanmoins, les machines peuvent aider à voir l’intensification des biais.

« Ces biais de sexisme ordinaire ne sont pas créés par l’algorithme mais il les reprend de façon tellement extensive qu’ils en deviennent systémiques et très difficiles à détricoter car ils sont dans tous les processus » Daphné Marnat, CEO et co-fondatrice de Unibas-ia et fondatrice de Twisting

Rendre l’intelligence artificielle plus éthique

Unbias ia s’attaque donc à limiter les biais de genre que l’on distingue clairement d’un sexisme hostile qui pourrait être, lui, intentionnel, pour « rendre l’intelligence artificielle plus éthique » . Accompagnée de son associé, un data scientist concentré sur la technologie, Daphné s’applique à retravailler avec des experts le langage des algorithmes, qu’on appelle le corpus d’apprentissage, avec un algèbre sémantique en forçant leur trait féminin. “La seule manière de retrouver l’équilibre, c’est de surpondérer au féminin”, nous dit-elle et de mettre en place des pratiques de discrimination positive. Le seul site qui soit vraiment neutre, selon elle, semble être celui de Wikipédia.

“On vit l’équité dans notre réalité, la loi contre les discriminations existe en France. À nous d’aider les machines quand les humains n’y arrivent pas malgré une volonté affichée”. Daphné Marnat, CEO et co-fondatrice de Unibas-ia et fondatrice de Twisting

L’avenir du langage automatisé

Aujourd’hui Daphné Marnat cible le sexisme des applications en traitement et compréhension profonde du langage naturel (le NLP). Demain, son intention est de traiter les problèmes de racisme, de xénophobie, d’homophobie et de toute autre minorité, dans le langage écrit mais aussi vocal et dans celui véhiculé par les images. Comme elle le souligne avec l’humour qui la caractérise : “les objets qui utilisent la reconnaissance vocale sont moins performants sur les voix des femmes que celles des hommes. Pourquoi donc? Ces machines en fait ont appris et ont été éduquées par des voix d’hommes. Les femmes se disent plus souvent “ah je ne suis pas douée avec les machines”. Au lieu de se dire que c’est la machine qui ne marche pas, elles pensent que le problème vient d’elles et que le high-tech est fait pour les hommes. C’est typiquement un biais de genre qui rentre en compte, au-delà même des mots utilisés.C’est dire le long chemin à faire pour en finir avec la masculinisation de l’intelligence artificielle. Les entreprises et les institutions, avec leurs nouvelles politiques RSE et leur engagement pour la parité sont en première ligne pour améliorer les choses. “On vit l’équité dans notre réalité, la loi contre les discriminations existe en France” nous dit Daphné: “ à nous d’aider les machines quand les humains n’y arrivent pas malgré une volonté affichée”. On est tentée d’ajouter que tant qu’il n’y aura que des hommes dans les services de R&D où Daphné se confronte souvent, le parcours risque fort d’être encore semé d’embûches.

Retrouvez l’actualité des nouvelles technologies, dans l’émission Smart Tech, conçue et présentée par Delphine Sabattier, toutes les semaines du lundi au vendredi à 11heures la nouvelle chaîne business, B-Smart, présente dans les bouquets Orange, Bouygues et Free ou en replay sur www.bsmart.fr.

Découvrez aussi

Un document unique: un an de Covid19 vu par l’AFP

Marielle Eudes, Directrice de la Photo de l’AFP, et Les Arènes publient "Pandemia, Ce que nous avons vécu". Plus de 420 photos résument un an de pandémie sur to...

Le grand retour de la FIAC avec Jennifer Flay. Entretien

Avec la FIAC au Grand Palais Éphémère sur le Champ-de-Mars du 21 au 24 octobre 2021, Paris devient à nouveau la semaine la capitale internationale de l'art cont...

Le portrait du mois dans Smart Tech: Hélène Huby, à la conquête des étoiles

Retrouvez chaque mois le portrait d'une femme de la tech dans l'émission de Delphine Sabattier, Smart Tech, sur la chaîne B-Smart. Pour celui d'Octobre, Hélène ...

Partager cette publication